ハルシネーションとは

まず押さえる結論

ハルシネーションは、生成AIアドバイザー認定試験の「第5課題 リスクと限界、倫理・著作権・情報管理」で確認しておきたい用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。

具体例から判断の境界を固める

学習方法ではなく、生成された出力に現れる事実誤りの現象として捉える

生成AIへ資料の出典を尋ねたとき、実在しない文献名やURLをもっともらしく示す場合があります。文章が自然で断定的でも、出典が実在し内容を裏付けるとは限りません。ここで問題なのは表現の流暢さではなく、生成結果と確認可能な事実が一致していないことです。

問題文で見る箇所

もっともらしい、事実と異なる、存在しない根拠、誤った内容を生成する、といった出力の状態を探します。学習データの偏りによる公平性の問題や、個人情報を入力する情報管理の問題とは、何が損なわれたかで分けます。

隣接概念との境界

ファインチューニングは学習済みモデルを追加データで調整する方法で、ハルシネーションは出力上の現象です。ファインチューニングやRAGを使う設計でも誤りが完全になくなるとは限らないため、参照元の確認、人による検証、利用停止条件を別に置きます。

誤答しやすい選択肢

• 特定用途へ追加学習すること自体をハルシネーションと呼ぶ。これはファインチューニングの工程です。
• 訓練データの偏りによる不公平な出力をすべてハルシネーションと呼ぶ。事実誤りとバイアスを分けます。
• 自然な文章なので正しい、またはRAGを使ったので誤りはない、と確認を省略する選択肢を選ぶ。

4段階の判断手順

1. 01問題文が問う対象を入力、学習方法、出力、運用管理のどこかに置く。
2. 02出力と外部で確認できる事実が食い違う現象か確認する。
3. 03公平性、権利侵害、情報漏えいを別のリスクとして除外する。
4. 04出典照合、人の確認、利用停止など出力後の対策まで選択肢で確認する。

到達条件: 実在しない出典の例でハルシネーションを説明し、バイアス・情報漏えい・追加学習との違いを言える。

試験での問われ方

誤答しやすいポイント

「第5課題 リスクと限界、倫理・著作権・情報管理」の問題で、取り違えやすい組み合わせです。

• 回答が流暢であること、長いこと、同じ質問で一致することを、正しさの根拠にすること。ハルシネーションはもっともらしい誤りなので、重要な内容は別の情報源で確かめる。
• 個人情報や機密情報を、精度や手間を理由にそのまま外部の生成AIサービスへ入力すること。入力前に個人を特定できる情報を除く、または入力してよい範囲を社内のルールで確かめる。
• 知識の更新限界を、質問の瞬間に最新情報を取り込む、または常に最新と考えること。生成AIの知識は学習に使われたデータの範囲に限られ、最新の出来事は反映されていない場合がある。

関連する確認問題

他資格でも出題される用語