説明可能AI（XAI）とは

まず押さえる結論

説明可能AI（XAI）は、G検定の「大項目6 ディープラーニングの応用例」に出てくる用語です。見分けの要点は、CAMは全体平均プーリングを含む構成で出力層の重みを特徴マップへ射影する画像向けの手法、Grad-CAMは勾配を使いCAMを一般化した画像向けの手法で全結合層を持つCNNにも構造変更や再学習なしで適用できます。LIMEは個別の予測の周辺で解釈しやすいモデルを局所的に学習し、元のモデルの種類を問いません。SHAPは協力ゲーム理論に由来するシャープレイ値で各特徴量の寄与を割り当てます。Permutation Importanceは表形式データで特徴量の値をシャッフルしてモデルのスコアの悪化を見ます。

比較記事でさらに確認する

説明可能AI（XAI）の具体例と、問題文で見る箇所・隣接概念との境界

説明可能AI（XAI）を、役割と隣接概念の境界から捉える

AIがなぜその結論を出したのかを人間が理解できる形で示そうとする技術・研究分野。代表的な手法には、CNNの出力層の重みを特徴マップへ射影するCAM、勾配を使いCAMを一般化したGrad-CAM、個別の予測の周辺で解釈しやすいモデルを学習するLIME、シャープレイ値で特徴量の寄与を割り当てるSHAP、表形式データで特徴量をシャッフルして依存度を調べるPermutation Importanceがある。 試験では、処理の対象・目的・使う段階を別の概念と入れ替えた選択肢が出ます。何に対して何をする手法かを分けて確認します。

問題文で見る箇所

CNNの出力層の重みを使うか、勾配を使うか、個別の予測の周辺でモデルを学習するか、シャープレイ値で寄与を割り当てるか、特徴量をシャッフルするかで、CAM・Grad-CAM・LIME・SHAP・Permutation Importanceを見分けます。

隣接概念との境界

CAMは全体平均プーリングを含む構成で出力層の重みを特徴マップへ射影する画像向けの手法、Grad-CAMは勾配を使いCAMを一般化した画像向けの手法で全結合層を持つCNNにも構造変更や再学習なしで適用できます。LIMEは個別の予測の周辺で解釈しやすいモデルを局所的に学習し、元のモデルの種類を問いません。SHAPは協力ゲーム理論に由来するシャープレイ値で各特徴量の寄与を割り当てます。Permutation Importanceは表形式データで特徴量の値をシャッフルしてモデルのスコアの悪化を見ます。

誤答しやすい選択肢

• CAMとGrad-CAMを、どちらも出力層の重みだけ、または勾配だけを使う同じ手法として扱う、あるいはLIME・SHAP・Permutation Importanceが持つ局所モデルの学習・シャープレイ値・シャッフルという異なる求め方を区別せず同じ「特徴量の重要度」として混同する。定義の主語と処理対象を確認します。
• 説明可能AI（XAI）の目的だけを見て、同じ目的を持つ別手法まで同じ用語とする。具体的な処理を比較します。
• 説明可能AI（XAI）を使えば目的が必ず達成されると断定する。適用条件や評価を別に確認します。

4段階の判断手順

1. 01問題文が状態、手法、評価指標、制度のどれを説明しているか決める。
2. 02定義の中心となる対象と動作が説明可能AI（XAI）に一致するか確認する。
3. 03隣接概念と共通する目的ではなく、処理や条件の違いを見る。
4. 04必ず・完全に・だけでよいという過度な断定がないか見直す。

到達条件: 説明可能AI（XAI）を一文で説明し、最も混同しやすい隣接概念との違いを処理または条件から言える。

試験での問われ方

誤答しやすいポイント

「大項目6 ディープラーニングの応用例」の問題で、取り違えやすい組み合わせです。

• 物体検出（R-CNN系/YOLO/SSD）とセグメンテーション（セマンティック＝画素単位の塗り分け、インスタンス＝個体ごとに区別）の混同。
• word2vec・BERT・GPTの違い（BERT＝前後両方向、GPT＝一方向・自己回帰）。
• 強化学習の応用（DQN、AlphaGo）と画像/言語タスクの取り違え。

関連する確認問題

同じ章で確認したい用語