Hallucinationとは

まず押さえる結論

Hallucinationは、DS検定の「第2章 データ可視化とAI活用の基礎」に出てくる用語です。見分けの要点は、学習用データの誤り・歪みや、問いに対応する学習用データの不在は、Hallucinationが起こる理由です。検索等によるリサーチ結果や他のLLMの出力との比較、正確な追加情報を付与した前後の出力比較は、起きていることに気づくための行動です。

Hallucinationの具体例と、問題文で見る箇所・隣接概念との境界

学習用データに関する発生理由と、複数の比較による気づき方を分けて捉える

LLMの回答にHallucinationが含まれるかを確かめる場面では、その出力を検索等によるリサーチ結果や他のLLMの出力と比べます。さらに、正確な追加情報を入力データに付与し、出力がどう変化するかを比べます。

問題文で見る箇所

起こる理由を問う設問では、学習用データに誤りや歪みが含まれる場合と、入力された問いに対応する学習用データが存在しない場合を確認します。気づくための行動を問う設問では、リサーチ結果、他のLLMの出力、正確な追加情報を付与した前後の出力を比較する記述に注目します。

隣接概念との境界

学習用データの誤り・歪みや、問いに対応する学習用データの不在は、Hallucinationが起こる理由です。検索等によるリサーチ結果や他のLLMの出力との比較、正確な追加情報を付与した前後の出力比較は、起きていることに気づくための行動です。

誤答しやすい選択肢

• 学習用データに誤りや歪みが含まれる場合を、Hallucinationが起こる理由から外す。公式のスキルチェックリストでは理由の一例です。
• 入力された問いに対応する学習用データが存在しない場合は、Hallucinationの発生理由と関係がないとする。これも学習用データの観点から示された例です。
• 一つの出力だけを見て判断し、リサーチ結果や他のLLMの出力との比較、正確な追加情報を付与した前後の比較を行わない。

4段階の判断手順

1. 01設問がHallucinationの発生理由と、起きていることに気づく行動のどちらを問うか分ける。
2. 02発生理由では、学習用データの誤り・歪みと、問いに対応する学習用データの不在を確認する。
3. 03気づく行動では、検索等によるリサーチ結果や他のLLMの出力と比較する。
4. 04正確な追加情報を入力データに付与し、付与前後で出力がどう変化するかを比較する。

到達条件: Hallucinationが起こる理由を学習用データの二つの状態から説明し、三つの比較方法で気づき方を説明できる。

試験での問われ方

誤答しやすいポイント

「第2章 データ可視化とAI活用の基礎」の問題で、取り違えやすい組み合わせです。

• Hallucinationを『まれに起こる不具合』と誤解する。大規模言語モデルの構造上根本的に避けられない現象として理解する必要がある。
• Hallucination対策を『使わない』ことだと誤解する。検索によるリサーチ結果との比較や他LLMの出力との比較など、気づくための具体的な行動が問われる。
• ITセキュリティのリスク種類（消失・漏洩・サービスの停止）を漠然と『危険』とまとめてしまい、どの種類のリスクかを区別できない。

関連する確認問題

同じ章で確認したい用語