G検定 用語解説
説明可能AI（XAI）とは
AIがなぜその結論を出したのかを人間が理解できる形で示そうとする技術・研究分野。
まず押さえる結論
説明可能AI（XAI）は、G検定の「大項目7 AIの社会実装に向けて」で確認しておきたい用語です。 定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
- CRISP-DM（進め方の枠組み）とPoC（概念実証）の役割の取り違え。
- データリーケージ（学習・評価データに正解情報が混入する事故）の見落とし。
- 説明可能AI（XAI）・公平性・透明性など、近い概念の取り違え。
関連する確認問題
大項目7 AIの社会実装に向けて / AIの説明性・公平性
ディープラーニングなどで予測の根拠が人間に分かりにくくなる問題に対し、モデルがなぜその結論を出したのかを人が理解できる形で示そうとする技術や研究分野を指す用語はどれか。
ディープラーニングなどで判断根拠がブラックボックス化する問題に対し、モデルが結論に至った理由を人間が理解できる形で示そうとする技術・研究分野が説明可能AI（XAI）である。敵対的サンプルはモデルを誤認識させるよう微小な変化を加えた入力。フィルターバブルは好みに合う情報ばかりに囲まれる状態。概念ドリフトは運用中に精度が下がる現象で、いずれも判断根拠の解釈性を高める取り組みを指す語ではない。
同じ章で確認したい用語
到達チェック
- 説明可能AI（XAI）を一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、説明可能AI（XAI）に関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる