生成AIのリスクと仕組み
ハルシネーションとは（起こる理由と対策）
ハルシネーションは、生成AIパスポートの公式シラバスで、仕組みの章とリスクの章の両方に出てくる用語です。ハルシネーションは、生成AIがもっともらしいのに誤った内容を出すことです。
このページは、公式シラバス、論文「Why Language Models Hallucinate」（arXiv:2509.04664）、AI事業者ガイドライン第1.2版の範囲で、定義・原因・出る章・対策を整理しています。
公式情報の確認
試験日、料金、申込条件、試験方式など変動する情報は、公式情報を最終確認してください。 当サイトの一次情報確認日: 2026-08-31。
試験の出題範囲・実施要項は変動するため、受験前に公式情報を確認してください。
結論
- ハルシネーションは、生成AIがもっともらしいのに誤った内容を出すこと
- 原因は、確率的な次トークン予測という仕組みと、不確かなときに推測を報いる訓練・評価の手順にある
- 2027年2月適用のシラバスでは、第2章（仕組み）と第4章（リスクと基本姿勢）の両方に出る
- 対策は、出力の検証と専門家への確認が基本で、RAGは抑制の手段の一つ
ハルシネーションの定義
論文「Why Language Models Hallucinate」は、大規模言語モデルが不確かなときに、わからないと認めずに推測し、もっともらしいが誤った内容を出すことがあると述べ、これをハルシネーションと呼びます。最新のシステムでも残り、信頼を損なうとも述べています。
「もっともらしい」ことが、気づきにくさの理由です。文章として自然で、断定的に書かれていても、事実とは限りません。試験では、生成AIの出力を事実として扱ってよいかを問う場面で、この性質が前提になります。
一次資料: Kalaiら「Why Language Models Hallucinate」（arXiv:2509.04664）
なぜ起こるのか
公式シラバス（2027年2月適用版）は、第2章で「生成AIが文章を生成する仕組みと、ハルシネーションが起こる理由」を学習目標に置き、学習項目に「確率的な次トークン予測」を挙げます。生成AIは、事実を調べて答えるのではなく、続きにふさわしい言葉を確率で選んで文章を作る、という仕組みの側から理由を問う形です。
論文は、もう一つの見方を示します。訓練と評価の手順が、不確かさを認めるよりも推測を報いるため、わからないときに推測するほうが成績が上がる、という指摘です。多くの評価の採点方式のもとでは、わからないと答えるより、推測して当てるほうが有利になる、と説明しています。
次トークン予測という仕組みと、推測を報いる評価の手順の2つが、ハルシネーションの原因として挙がっています。2つ目は論文の主張で、シラバスが同じ説明を載せているわけではありません。試験では、まずシラバスの言葉（確率的な次トークン予測）で押さえます。
シラバスのどこに出るか
公式シラバスでは、版によって置かれる章が違います。
| 場所 | 内容 |
|---|---|
| 2027年版 第2章 生成AIの生成（推論）プロセス | 学習目標は「生成AIが文章を生成する仕組みと、ハルシネーションが起こる理由、生成パラメータやコンテキストウィンドウを理解する」。学習項目に「確率的な次トークン予測」と「ハルシネーション」が並ぶ |
| 2027年版 第4章 生成AIの代表的リスク | 学習項目にハルシネーションが置かれ、「差別・偏見・バイアスのリスク」とは別の項目になっている。詳細キーワードにファクトチェックが載る |
| 2027年版 第4章 生成AIを安全に使うための基本姿勢 | 学習項目に「AIの出力を鵜呑みにしてはいけない理由」があり、詳細キーワードに出力の検証、専門家への確認、批判的思考などが載る |
| 2026年版（現行） 第2章 ChatGPT | ChatGPTの項目の詳細キーワードの一つとしてハルシネーションが載る |
仕組みの章では「なぜ起こるか」、リスクの章では「どう備えるか」を問われる、と分けて読むと整理しやすくなります。章立ての変更は2027年2月試験の新シラバスに整理しています。試験での出題を予想するものではありません。
確かめ方と対策
公式シラバスとAI事業者ガイドラインに出てくる対策を、出どころとあわせて並べます。
| 対策 | 内容 | 出どころ |
|---|---|---|
| 出力の検証・ファクトチェック | 出力をそのまま使わず、事実かどうかを別の情報で確かめる | 公式シラバス（2027年版 第4章）の詳細キーワード |
| 専門家への確認 | 判断の影響が大きい内容は、人の専門家が確認する | 公式シラバス（2027年版 第4章）の詳細キーワード |
| RAGの活用 | 外部の文書を根拠に回答させることで、ハルシネーションの抑制や、出力の根拠の透明性向上が期待される | AI事業者ガイドライン第1.2版 |
基本姿勢の項目には、検索エンジンと生成AIの違い、生成AIを使ってよい場面・慎重に使う場面・避けるべき場面、AIを使うリスクと、AIを使わないリスクといった学習項目も並びます。詳細キーワードには一次情報、用途と影響度、AIを使わない判断も載るため、「誤りの影響が大きい用途ほど、出力を鵜呑みにせず、一次情報や専門家で確かめる」という流れで選択肢を読むと、対策を問う問題の意図をつかみやすくなります。
RAGは「期待される」手段であり、ハルシネーションをなくす方法とは書かれていません。RAGの仕組みはRAG（検索拡張生成）とはに整理しています。外部の文章に埋め込まれた悪意ある指示の問題はプロンプトインジェクションとはで別に扱っています。
よくある質問
ハルシネーションとは、一言でいうと何？
生成AIが、もっともらしいのに誤った内容を出すことです。論文では、大規模言語モデルが不確かなときに、わからないと認めずに推測して、もっともらしい誤りを出すことがあると説明されています。
なぜハルシネーションは起こるのですか？
公式シラバスは、仕組みとして「確率的な次トークン予測」を挙げます。論文は、訓練と評価の手順が、不確かさを認めるよりも推測を報いることが原因の一つだと論じています。
RAGを使えばハルシネーションはなくなりますか？
なくなるとは言えません。AI事業者ガイドライン第1.2版は、RAGの活用などによって、ハルシネーションの抑制や根拠の透明性向上が「期待される」と書いています。抑制の手段の一つとして押さえます。
試験では、どの章でハルシネーションが出ますか？
2027年2月適用の公式シラバスでは、第2章の生成プロセスと、第4章の代表的リスクおよび基本姿勢に出ます。現行版では第2章のChatGPTの項目の詳細キーワードにも載ります。
ハルシネーションの対策として、利用者は何をすればよいですか？
公式シラバスは、出力の検証、専門家への確認、ファクトチェック、批判的思考を挙げます。AIは補助者であり、最終責任は人間にあるという基本姿勢と合わせて覚えます。
