過度依存（自動化バイアス）とは

過度依存（自動化バイアス）の意味と見分け方

必要な対策の例として、AIの評価・判断・推奨・予測を人間が鵜呑みにしないよう、AIの欠点を含む特性を理解できるトレーニングを受けること、人間がAIの評価や判断を承認するときは、承認する理由や根拠を自分で考えてから承認することが挙げられている。同ガイドラインは基本理念でも、人間がAIに過度に依存する社会ではなく、人間がAIを道具として使いこなす社会を目指すとしている。

過度依存（自動化バイアス）は、生成AIアドバイザー認定試験の「第5課題 リスクと限界、倫理・著作権・情報管理」に出てくる用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。

試験での問われ方

誤答しやすいポイント

「第5課題 リスクと限界、倫理・著作権・情報管理」の問題で、取り違えやすい組み合わせです。

• 回答が流暢であること、長いこと、同じ質問で一致することを、正しさの根拠にすること。ハルシネーションはもっともらしい誤りなので、重要な内容は別の情報源で確かめる。
• 個人情報や機密情報を、精度や手間を理由にそのまま外部の生成AIサービスへ入力すること。入力前に個人を特定できる情報を除く、または入力してよい範囲を社内のルールで確かめる。
• 知識の更新限界を、質問の瞬間に最新情報を取り込む、または常に最新と考えること。生成AIの知識は学習に使われたデータの範囲に限られ、最新の出来事は反映されていない場合がある。

関連する確認問題

同じ章で確認したい用語