DS検定 用語解説
Hallucinationとは
大規模言語モデルが事実と異なる内容をさも正しいかのように生成する現象。構造上根本的に避けることができない。
まず押さえる結論
Hallucinationは、DS検定の「第2章 データ可視化とAI活用の基礎」で確認しておきたい用語です。 定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
- Hallucinationを『まれに起こる不具合』と誤解する。大規模言語モデルの構造上根本的に避けられない現象として理解する必要がある。
- Hallucination対策を『使わない』ことだと誤解する。検索によるリサーチ結果との比較や他LLMの出力との比較など、気づくための具体的な行動が問われる。
- ITセキュリティのリスク種類（消失・漏洩・サービスの停止）を漠然と『危険』とまとめてしまい、どの種類のリスクかを区別できない。
関連する確認問題
第2章 データ可視化とAI活用の基礎 / 生成AI活用
大規模言語モデル（LLM）のHallucinationについて、最も適切な説明はどれか。
Hallucinationとは、大規模言語モデルにおいて事実と異なる内容がさも正しいかのように生成されることを指す。これらは根本的に避けることができないため、利用に際して出力を鵜呑みにしない注意が必要である。
第2章 データ可視化とAI活用の基礎 / 生成AI活用
LLMのHallucinationに気づくための適切なアクションとして最も適切なものはどれか。
Hallucinationが起きていることに気づくためには、検索等によるリサーチ結果との比較や、他LLMの出力結果との比較、正確な追加情報を入力データに付与することによる出力結果の変化比較などの適切なアクションが必要である。
到達チェック
- Hallucinationを一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、Hallucinationに関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる