説明可能性とは

まず押さえる結論

説明可能性は、G検定の「大項目10 AI倫理・AIガバナンス」で確認しておきたい用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。

具体例から判断の境界を固める

説明可能性を、「どのように決定がなされたか」に答える性質として、NISTの透明性・解釈可能性と並べて捉える

AI事業者ガイドライン（第1.2版）の脚注は、NIST『AI Risk Management Framework』が、透明性（システムで何が起きたかに答えられること）、説明可能性（システムでどのように決定がなされたかに答えられること）、解釈可能性（なぜその決定がされたかの意味や文脈に答えられること）に分けていると紹介します。NISTの「透明性」は何が起きたかに答える狭い意味です。一方、同ガイドライン本編の「透明性」の項は、検証可能性の確保や情報提供とあわせて、説明可能性・解釈可能性の向上も含む広い取り組みで、両者の範囲は同じではありません。本編は、説明可能性・解釈可能性の向上の目的を、関係者の納得感・安心感の獲得と、AIの動作に対する証拠の提示としています。

問題文で見る箇所

「どのように決定がなされたかに答えられる」という記述を確認します。何が起きたかを問う設問はNISTの意味での透明性、なぜその決定かの意味や文脈を問う設問は解釈可能性、技術・研究分野としての手法（LIMEやSHAPなど）を問う設問は説明可能AI（XAI）を候補にします。

隣接概念との境界

説明可能性は、AIの決定がどのようになされたかに関係者へ答えられる性質です。NISTの区分とは別に、この用語集は解釈性を「AIが予測結果に至った過程や根拠を人間が理解できるようにすること」と定義します。説明可能AI（XAI）は、判断の理由を人間が理解できる形で示そうとする技術・研究分野です。ブラックボックスは、判断について説明できない状態を指します。

誤答しやすい選択肢

• ×説明可能性を、AIのアルゴリズムやソースコードをすべて公開することとして扱う。ガイドラインは、情報提供でアルゴリズム又はソースコードの開示を必ずしも想定せず、プライバシーや営業秘密を尊重して社会的合理性が認められる範囲で行うとしている。
• ×説明可能性と透明性を同じ意味として扱う。NIST AI RMFは、何が起きたかに答える透明性と、どのように決定がなされたかに答える説明可能性を分けている。ガイドラインの「透明性」は説明可能性の向上も含む広い項目である。
• ×説明可能性を、説明可能AI（XAI）の手法そのものとして扱う。説明可能性は性質、XAIはその性質を高めるための技術・研究分野である。

4段階の判断手順

1. 01設問が、AIの決定の過程（どのように）を問うているか、起きた事実（何が）や理由の意味（なぜ）を問うているかを先に分ける。
2. 02決定の過程であれば、関係者に答えられるという性質の話か、手法の名前（LIME・SHAPなど）の話かを見分ける。
3. 03全面公開を求めるような選択肢は、営業秘密やプライバシーへの配慮という前提を落としていないかを見直す。

到達条件: 説明可能性を、AIの決定がどのようになされたかに答えられる性質として、NISTの透明性・解釈可能性、既存の解釈性、説明可能AI（XAI）と区別して説明できる。

試験での問われ方

誤答しやすいポイント

関連する確認問題

同じ章で確認したい用語