G検定 大項目10 AI倫理・AIガバナンス 予想問題（2/2）

正解は代理変数。Google機械学習用語集は、機密属性の代わりに使用される属性をproxyとし、個人の郵便番号がその個人の収入、人種、民族の代理として使われる例を挙げている。同用語集は、機密性の高い属性はデータの他の特徴と相関していることがほとんどなので、機密属性を明示的に削除してもサブグループが平等に扱われるとは限らない、とも警告している。AI事業者ガイドライン（第1.2版）の脚注も、明らかなセンシティブ属性を取り除いたデータであっても、関連する情報から属性が類推されてしまう場合があると述べる。列を削除しただけで公平になったと判断せず、残った項目が代わりに働いていないかを確かめる視点が問われている。

https://developers.google.com/machine-learning/glossary/fairness （Google 機械学習用語集「公平性」／AI事業者ガイドライン第1.2版 本編 3)公平性／大項目10 公平性）

正解はデータの来歴（データリネージ）。AI事業者ガイドライン（第1.2版）の別添は、AI開発者向けの対策として、技術的に可能で合理的な範囲でデータの出所を把握するための手段を実施することを挙げ、その例としてデータリネージ（来歴メカニズムの構築）を示している。内容は、データが元々どこから来たのか、どのように収集され、管理され、時間の経過とともに各主体内でどのように移動したのかを知ることである。データ拡張は学習データを人工的に増やす手法、バッチ正規化は層への入力を正規化して学習を安定させる手法、匿名加工情報は特定の個人を識別できないように個人情報を加工した情報であり、いずれもデータの出所を追跡する取り組みではない。

https://www.soumu.go.jp/main_content/001064286.pdf （AI事業者ガイドライン第1.2版 別添 3.AI開発者向け／大項目10 透明性）

正解は説明可能性。AI事業者ガイドライン（第1.2版）の脚注は、NISTのAIリスクマネジメントフレームワーク（2023年1月）を、透明性（システムで何が起きたかについて答えられること）、説明可能性（システムでどのように決定がなされたかについて答えられること）、解釈可能性（なぜその決定がされたかについて、その意味又は文脈について答えられること）に分類していると紹介している。三つは「何が起きたか」「どのように決めたか」「なぜ決めたか、その意味は何か」という異なる問いに対応するため、設問の「どのように決定がなされたか」は説明可能性にあたる。なお同ガイドライン自身は、情報開示に関する事項を広く透明性として扱っている。

https://www.soumu.go.jp/main_content/001064279.pdf （AI事業者ガイドライン第1.2版 本編 6)透明性の脚注／大項目10 透明性）

正解は人口統計学的パリティ（demographic parity）。Google機械学習用語集は、モデルの分類結果が特定の機密属性に依存しない場合に満たされる公平性指標と定義し、グループ間の合格率が同じなら、一方が平均的により資格があるかどうかに関係なく達成される例を挙げている。機会の平等は望ましい結果を平等に予測しているかを評価する指標で、陽性クラスなら真陽性率が全グループで同じになることを求める。均等化オッズは真陽性率と偽陽性率の両方が同じであること、予測パリティは適合率が同等かどうかを確認する指標である。同用語集はこのように複数の公平性指標を別々に定義しており、指標ごとに比べる数値が異なるため、承認される割合そのものを比べるのか、実際に返済できる人のうちの承認率を比べるのかを見分けることが要点になる。

https://developers.google.com/machine-learning/glossary/fairness （Google 機械学習用語集「公平性」／大項目10 公平性）

正解は、不当で有害な偏見や差別をなくすよう努めつつ、回避できないバイアスがあることを認識し、人権や多様な文化を尊重する観点から許容できるかを評価する姿勢。AI事業者ガイドライン（第1.2版）本編の公平性は、特定の個人ないし集団への人種、性別、国籍、年齢、政治的信念、宗教等の多様な背景を理由とした不当で有害な偏見及び差別をなくすよう努めることを求める。同時に、それでも回避できないバイアスがあることを認識し、それが人権及び多様な文化を尊重する観点から許容可能か評価した上で開発・提供・利用を行うことも求めている。バイアスは努力すれば必ずゼロにできるという前提や、一度の偏りで一律に停止するという扱いは、この整理とは異なる。

https://www.soumu.go.jp/main_content/001064279.pdf （AI事業者ガイドライン第1.2版 本編 3)公平性／大項目10 公平性）

正解は、AI開発者・AI提供者・AI利用者。AI事業者ガイドライン（第1.2版、令和8年3月31日、総務省・経済産業省）は、対象者をAIの事業活動を担う主体として、AI開発者、AI提供者、AI利用者の3つに大別している。AIを直接事業で利用せずに便益を享受し、場合によっては損失を被る業務外利用者や、学習・利用のデータを提供するデータ提供者は、ガイドラインの対象には含まれない。AI監督者という区分は置かれていない。三つの主体は、AIの開発、サービスとしての提供、事業での利用という流れの中で、それぞれ担う役割に応じて整理されている。

https://www.soumu.go.jp/main_content/001064279.pdf （AI事業者ガイドライン第1.2版 本編 第1部 対象者・E AIガバナンスの構築／大項目10 AIガバナンス）

正解はAI提供者。AI事業者ガイドライン（第1.2版）は、AI提供者を、AIシステムをアプリケーション、製品、既存のシステム、ビジネスプロセス等に組み込んだサービスとしてAI利用者、場合によっては業務外利用者に提供する事業者と定義し、AIシステム検証、他システムとの連携の実装、サービスの提供、正常稼働のためのAI利用者側の運用サポート又はAIサービスの運用自体を担うとする。AI開発者はAIモデルやシステムを構築する役割、AI利用者は事業活動でAIを利用する役割である。

https://www.soumu.go.jp/main_content/001064279.pdf （AI事業者ガイドライン第1.2版 本編 第1部 対象者・E AIガバナンスの構築／大項目10 AIガバナンス）

正解は、AI提供者が意図する適正な利用を行い、環境変化等の情報を提供者と共有して正常稼働を継続すること。ガイドラインはAI利用者の役割を、提供者が意図している適正な利用を行い、環境変化等の情報を提供者と共有し、正常稼働を継続すること、又は必要に応じて提供されたAIシステムを運用することと定める。さらに、業務外利用者に何らかの影響が考えられる場合は、AIによる意図しない不利益の回避と便益最大化の実現に努める役割も担う。モデルの調整はAI開発者、他システムとの連携の実装とサービス提供はAI提供者の役割である。

https://www.soumu.go.jp/main_content/001064279.pdf （AI事業者ガイドライン第1.2版 本編 第1部 対象者・E AIガバナンスの構築／大項目10 AIガバナンス）

正解は、AIの活用方法によっては、同一の事業者がAI開発者、AI提供者又はAI利用者の複数を兼ねる場合もある、という記述。ガイドラインは三つの主体を事業者（又は各者内の部門）を想定したものとし、AIの活用方法によっては同一の事業者が複数を兼ねる場合もあると述べる。また、AI開発者がAIシステムの構築のすべてを担うと整理されているわけではなく、実際には多様なケースが存在するとも注記している。主体は固定した別々の組織を意味するのではなく、担う役割を示す区分である。

https://www.soumu.go.jp/main_content/001064279.pdf （AI事業者ガイドライン第1.2版 本編 第1部 対象者・E AIガバナンスの構築／大項目10 AIガバナンス）

正解は環境・リスク分析。ガイドラインは、環境・リスク分析、ゴール設定、システムデザイン、運用、評価というサイクルをマルチステークホルダーで継続的かつ高速に回すアジャイル・ガバナンスの実践を重視する。手順の最初は、AIシステム・サービスがライフサイクル全体でもたらしうる便益とリスク、開発・運用に関する社会的受容、外部環境の変化、AI習熟度等を踏まえた環境・リスク分析である。これを踏まえて開発・提供・利用の可否を判断し、ゴールの設定、AIマネジメントシステムの設計と運用、評価と継続的改善へ進み、運用開始後も外部環境の変化を踏まえて再び環境・リスク分析を行う。

https://www.soumu.go.jp/main_content/001064279.pdf （AI事業者ガイドライン第1.2版 本編 第1部 対象者・E AIガバナンスの構築／大項目10 AIガバナンス）