生成AIアドバイザー認定試験 用語解説
大規模言語モデルとは
大量の文章で事前に学習させた言語モデルで、規模を大きくするほど、例題を数個示すだけで新しい言語の課題をこなす力が上がるとされる。2020年の論文は、パラメータ数1,750億（従来の疎でない言語モデルの10倍）の自己回帰型言語モデルGPT-3を学習させ、勾配の更新や追加の学習をせず、課題と例題を文章で与えるだけで、翻訳・質問応答・穴埋めなど多くの自然言語処理の課題で高い性能を得たと報告している。公式シラバスでは第2課題の第1章「生成AIの仕組み」で、拡散モデル・GANと並べて比較される3つの仕組みの1つに挙がる。
まず押さえる結論
大規模言語モデルは、生成AIアドバイザー認定試験の「第2課題 生成AIの基礎理解」で確認しておきたい用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
情報源と編集区分
公式範囲を確認し、具体例・誤答例・判断手順は当サイトが編集。 一次情報確認日: 2026-10-04。
試験概要（公式）試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
「第2課題 生成AIの基礎理解」の問題で、取り違えやすい組み合わせです。
- 大規模言語モデル・拡散モデル・GANの説明の取り違え。次の語を予測するのが大規模言語モデル、ノイズを段階的に取り除くのが拡散モデル、作る側と見分ける側が競い合うのがGANである。
- トークン・パラメータ・学習データの混同。トークンは文章を処理する単位、パラメータは学習で調整される数値、学習データは学習に使う文章などの集まりである。
- 生成AIの特徴を、データを使わない、または誤りが起こらないと考えること。生成AIもデータから学習して動き、新しい文章や画像を作れる一方で、誤りも起こる。
関連する確認問題
第2課題 生成AIの基礎理解 / 第1章 生成AIの仕組み
GAN（敵対的生成ネットワーク）の仕組みとして、最も適切なものはどれか。
正解は「データを作る側と、本物か偽物かを見分ける側の2つが競い合うことで、本物に近いデータを作れるようにする仕組みである」である。GANは、生成する側と識別する側が競い合う形で学習する点に特徴がある。文章を区切って次に来る語を確率で予測する説明は大規模言語モデルのもので、ノイズを段階的に取り除いて画像を作る説明は拡散モデルのものである。この3つは別々の考え方であり、人が書いたルールだけで画像を作る方式とも異なる。見分ける側が存在する点が、他の2つにはないGANの決め手である。
第2課題 生成AIの基礎理解 / 第2章 トークン・パラメータ
大規模言語モデルにおける「トークン」の説明として、最も適切なものはどれか。
正解は「モデルが文章を処理するときに使う、語や語の断片といった文字列の区切りの単位である」である。大規模言語モデルは、入力された文章をまずトークンに分けてから処理する。学習で調整される数値の総数はパラメータ、学習に使う文章の集まりは学習データという別の用語で、トークンはその文章を区切った処理の単位にあたる。認証用の番号という日常語の意味とは異なる点にも注意が必要である。トークン、パラメータ、学習データの3つは、役割の違いで区別して覚える。
同じ章で確認したい用語
他資格でも出題される用語
到達チェック
- 大規模言語モデルを一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、大規模言語モデルに関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる
執筆: ミナト編集部（運営者情報を見る）