ブラックボックスとは

まず押さえる結論

ブラックボックスは、G検定の「大項目10 AI倫理・AIガバナンス」で確認しておきたい用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。

具体例から判断の境界を固める

ブラックボックスを、AIの判断について説明を求められても答えられない状態として捉える

AI事業者ガイドライン（第1.2版）の別添は、AIの判断のブラックボックス化に起因する問題の例として、同じ年収の男性と女性で女性の利用限度額が低いと報告されたクレジットカードを挙げます。金融当局がアルゴリズムの正当性の証明を求めましたが、企業はアルゴリズムの具体的な機能及び動作について説明できませんでした。

問題文で見る箇所

「内部の仕組みや根拠が分からない」「判断の理由を説明できない」という記述を確認します。その状態への対応として説明を与える技術・研究分野を問う設問なら説明可能AI（XAI）、説明できることを性質として問う設問なら説明可能性を候補にします。

隣接概念との境界

ブラックボックスは、AIの判断について、提供者側も具体的な機能や動作を説明できない状態です。説明可能性は、決定がどのようになされたかに答えられる性質で、説明可能AI（XAI）は判断の理由を人間が理解できる形で示そうとする技術・研究分野です。LIMEのように、元のモデルをブラックボックスとして扱い内部に立ち入らない手法もあります。

誤答しやすい選択肢

• ×ブラックボックスを、結果に男女差などの偏りが出ることそのものとして扱う。ガイドラインの事例で問題になったのは、結果の差に加えて、企業がアルゴリズムの具体的な機能及び動作を説明できなかったことである。
• ×LIMEが元のモデルをブラックボックスとして扱うことを、LIME自体が説明できない手法という意味に取る。ここでのブラックボックスは、LIMEが内部に立ち入らない対象の元のモデルを指す。
• ×ブラックボックスな状態を、説明可能AI（XAI）の別名として扱う。XAIは判断の理由を人間が理解できる形で示そうとする技術・研究分野で、状態そのものではない。

4段階の判断手順

1. 01設問が、状態（分かりにくい）を問うているか、それに対応する手段（XAIや手法名）を問うているかを先に分ける。
2. 02状態であれば、結果の良し悪しではなく、判断について説明できないことが述べられているかを確認する。
3. 03手法名や技術分野の話が書かれていれば、説明可能AI（XAI）やLIME・SHAPなどの候補へ移す。

到達条件: ブラックボックスを、AIの判断について説明できない状態として、結果の偏りや説明可能AI（XAI）と区別して説明できる。

試験での問われ方

誤答しやすいポイント

関連する確認問題

同じ章で確認したい用語