生成AIパスポート 用語解説
ニューラル言語モデルとは
n-gramモデルの後に登場した、ニューラルネットワークを用いて単語の並びや次の単語の予測を行う言語モデル。統計的な数語の並びだけを扱うn-gramモデルと異なり、ネットワークの学習によって次の単語を予測する。
まず押さえる結論
ニューラル言語モデルは、生成AIパスポートの「第5章 テキスト生成AIのプロンプト制作と実例」で確認しておきたい用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
情報源と編集区分
公式範囲を確認し、具体例・誤答例・判断手順は当サイトが編集。 一次情報確認日: 2026-06-27。
公式シラバス（PDF）（公式）試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
×Zero-ShotとFew-Shotの取り違え。例を示さず指示だけ＝Zero-Shot、例をいくつか示してから指示＝Few-Shot。
×プロンプトエンジニアリングとファインチューニング／プレトレーニングの混同。前者は指示の与え方の工夫、後者2つはモデル側の学習段階。
×テキスト生成AIの不得意（正確な計算・最新の情報・芸術の批評）を、得意分野（要約・メール作成・箇条書き変換）と取り違える。
関連する確認問題
第5章 テキスト生成AIのプロンプト制作と実例 / LMとLLM
ニューラルネットワークを使わず、直前に現れた数語の並びをもとに、次に来る単語の出現確率を統計的に求める初期の言語モデルを何というか。
正解は「n-gramモデル」である。設問は「ニューラルネットワークを使わず」「直前に現れた数語の並び」「次に来る単語の出現確率を統計的に求める」という3条件を示しており、これは連続するN個の単語の並びから次の単語の出現確率を計算する初期の言語モデルであるn-gramモデルの特徴と一致する。「ニューラル言語モデル」はn-gramモデルの後に登場したニューラルネットワークを用いる方式であり、「使わず」という条件と正反対である。「LLM（大規模言語モデル）」は大量のテキストで学習した大規模な言語モデルを指し、数語の並びだけを統計的に扱う初期モデルより後の規模の大きな概念である。「プロンプトエンジニアリング」は指示の与え方を工夫する取り組みであり、言語モデルの方式そのものを指す語ではない。
第5章 テキスト生成AIのプロンプト制作と実例 / LMとLLM
n-gramモデルの後に登場した、ニューラルネットワークを用いて単語の並びや次の単語の予測を行う言語モデルを何というか。
正解は「ニューラル言語モデル」である。設問は「n-gramモデルの後に登場した」「ニューラルネットワークを用いて」「単語の並びや次の単語の予測を行う」という条件を示しており、これはn-gramモデルの次の世代としてニューラルネットワークで次の単語を予測するニューラル言語モデルの特徴と一致する。「n-gramモデル」はニューラルネットワークを使わず統計的に単語の並びを扱う初期モデルであり、「後に登場した」「ニューラルネットワークを用いて」という条件のいずれにも反する。「ルールベース」は人間があらかじめ規則を記述し、その規則に従って処理する方式であり、データから単語の並びを学習する言語モデルではない。「クラスタリング」は正解ラベルを使わずデータ自体に潜むまとまりを見つける教師なし学習の手法であり、次の単語を予測する言語モデルではない。
第5章 テキスト生成AIのプロンプト制作と実例 / LMとLLM
言語モデルの発展の順序として、最も適切なものはどれか。
正解は「n-gramモデル → ニューラル言語モデル → 大規模言語モデル（LLM）」である。言語モデルは、ニューラルネットワークを使わず直前の数語から次の単語の確率を統計的に求めるn-gramモデルから始まり、ニューラルネットワークを用いるニューラル言語モデルを経て、大量のテキストで学習する大規模言語モデル（LLM）へと発展してきた。順序を入れ替えた他の選択肢は誤り。 各モデルの前提技術で年代を並べる。n-gramは直前の語列の頻度に基づく統計モデル、ニューラル言語モデルはニューラルネットワークで表現を学習し、LLMは大規模データ・パラメータへ拡張された言語モデルである。この依存関係を逆転させない。
同じ章で確認したい用語
到達チェック
- ニューラル言語モデルを一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、ニューラル言語モデルに関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる
執筆: ミナト編集部（運営者情報を見る）