G検定 用語解説
説明可能AI（XAI）とは
AIがなぜその結論を出したのかを人間が理解できる形で示そうとする技術・研究分野。
まず押さえる結論
説明可能AI（XAI）は、G検定の「大項目6 ディープラーニングの応用例」で確認しておきたい用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
情報源と編集区分
公式範囲を確認し、具体例・誤答例・判断手順は当サイトが編集。 一次情報確認日: 2026-07-03。
試験概要（公式）試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
×物体検出（R-CNN系/YOLO/SSD）とセグメンテーション（セマンティック＝画素単位の塗り分け、インスタンス＝個体ごとに区別）の混同。
×word2vec・BERT・GPTの違い（BERT＝前後両方向、GPT＝一方向・自己回帰）。
×強化学習の応用（DQN、AlphaGo）と画像/言語タスクの取り違え。
関連する確認問題
大項目6 ディープラーニングの応用例 / モデルの解釈性・軽量化
「モデルの解釈性」と「説明可能AI（XAI）」という2つの語の関係を説明したものとして、最も適切なものはどれか。
正解は「解釈性は、AIがどのように判断や予測を導いたのかを人間が理解できる度合いを表す性質であり、説明可能AI（XAI）は、その解釈性を高めるために判断の根拠を示そうとする技術・研究分野である」である。モデルの解釈性は、AIが予測結果に至った過程や根拠を人間が理解できるようにすることを指す性質であり、その解釈性を高めるために判断の根拠を示そうとする技術・研究分野が説明可能AI（XAI）と呼ばれる。両者は「理解できるという性質」と「それを実現する技術」という役割の違いを持つ。「説明可能AI（XAI）は性質そのもの、解釈性は技術・研究分野である」という説明は、両者の役割を入れ替えているため誤りである。「いずれも推論処理を行う場所を指す語である」という説明は、推論をどこで行うかという場所の話であるエッジAIと混同している。「いずれも計算量やパラメータ数を削減する取り組みを指す語である」という説明は、モデルの軽量化と混同しており、判断根拠を理解できるかどうかという解釈性・説明可能AIの論点とは別の話である。
大項目6 ディープラーニングの応用例 / モデルの解釈性・軽量化
エッジAIと、モデルの軽量化という2つの取り組みの関係を説明したものとして、最も適切なものはどれか。
正解は「エッジAIは推論処理を端末や現場に近い場所で行う構成を指し、軽量化は限られた計算資源でも動作できるようモデルの規模や計算量を抑える取り組みを指す。両者は別の観点の話だが、計算資源が限られた端末上でAIを動かすエッジAIを実現する手段として軽量化が用いられる関係にある」である。エッジAIは、AIの推論処理をクラウド上のサーバーではなく、データが発生する端末や現場に近い場所で行う構成・技術であり、通信にともなう遅延やデータ送信量を抑えられる。一方で軽量化は、計算資源や電力が限られた端末でも動作できるよう、モデルの規模や計算量を抑える取り組みである。推論をどこで行うかという場所の観点と、モデルの規模をどう抑えるかという設計の観点は別だが、限られた計算資源しか持たない端末上でAIを動かすエッジAIを実現するために軽量化がしばしば用いられるという関係にある。「エッジAIが計算量削減そのものを指し、軽量化がクラウドへの集約を指す」という説明は、両者の定義を入れ替えている。「開発から運用、再学習までを継続的に回す方法論」という説明はMLOpsの説明であり、エッジAIや軽量化とは異なる。「判断根拠を人間が理解できる形で示す取り組み」という説明は説明可能AI（XAI）や解釈性の話であり、場所や計算量の話ではない。
大項目6 ディープラーニングの応用例 / モデルの解釈性・軽量化
深層学習モデルをスマートフォンのような、計算資源や電力が限られた端末上でも動かせるようにする取り組みの主な目的として、最も適切なものはどれか。
正解は「計算資源や電力が限られた端末でも動作できるよう、モデルの規模や計算量を抑えること」である。モデルの軽量化は、計算資源や電力が限られたスマートフォンなどの端末上でも動作できるよう、モデルの規模や計算量を抑える取り組みであり、エッジAIのように端末側で推論を完結させたい場面で必要になる。「AIの判断根拠を人間が理解しやすい形で示せるようにすること」は、解釈性や説明可能AI（XAI）が目指す目的であり、計算資源の制約に対応する軽量化の目的とは異なる。「学習に使うデータの著作権を自動的に処理すること」は知的財産権に関する話であり、モデルの計算資源や規模とは無関係である。「推論処理の結果をつねにクラウド上のサーバーへ送信し続けること」は、端末側で処理を完結させて通信を抑えたいというエッジAI・軽量化の方向性とは逆であり、目的として成り立たない。
同じ章で確認したい用語
到達チェック
- 説明可能AI（XAI）を一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、説明可能AI（XAI）に関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる
執筆: ミナト編集部（運営者情報を見る）