ある言語における単語がどのような文法に従っているかを推論するという、文法推論の問題は、対象とする文法が、チョムスキー階層において最も単純な正規文法であっても難しい問題である。
そのため、文法推論のための、多くのヒューリスティックなアルゴリズムが発達した。しかしそれらは、文法を表すオートマトンが少ない状態数を持ったものでないといけないとか、文法の種類が限られているといった制約があった。
そこで本研究では、ヒューリスティクスを用いない、文法推論に対する一つのアプローチとして、RNNを用いた方法を議論し、またsecond-orderのRNNが、比較的単純な正規文法をよく学習できることを示す。
また、学習を行ったネットワークから、サイズの大きな、同等のクラスを持った
FSAが抽出できることを示す。