G検定 大項目10 AI倫理・AIガバナンス 予想問題（2/2）

正解は代理変数。Google機械学習用語集は、機密属性の代わりに使用される属性をproxyとし、個人の郵便番号がその個人の収入、人種、民族の代理として使われる例を挙げている。同用語集は、機密性の高い属性はデータの他の特徴と相関していることがほとんどなので、機密属性を明示的に削除してもサブグループが平等に扱われるとは限らない、とも警告している。AI事業者ガイドライン（第1.2版）の脚注も、明らかなセンシティブ属性を取り除いたデータであっても、関連する情報から属性が類推されてしまう場合があると述べる。列を削除しただけで公平になったと判断せず、残った項目が代わりに働いていないかを確かめる視点が問われている。

https://developers.google.com/machine-learning/glossary/fairness （Google 機械学習用語集「公平性」／AI事業者ガイドライン第1.2版 本編 3)公平性／大項目10 公平性）

正解はデータの来歴（データリネージ）。AI事業者ガイドライン（第1.2版）の別添は、AI開発者向けの対策として、技術的に可能で合理的な範囲でデータの出所を把握するための手段を実施することを挙げ、その例としてデータリネージ（来歴メカニズムの構築）を示している。内容は、データが元々どこから来たのか、どのように収集され、管理され、時間の経過とともに各主体内でどのように移動したのかを知ることである。データ拡張は学習データを人工的に増やす手法、バッチ正規化は層への入力を正規化して学習を安定させる手法、匿名加工情報は特定の個人を識別できないように個人情報を加工した情報であり、いずれもデータの出所を追跡する取り組みではない。

https://www.soumu.go.jp/main_content/001064286.pdf （AI事業者ガイドライン第1.2版 別添 3.AI開発者向け／大項目10 透明性）

正解は説明可能性。AI事業者ガイドライン（第1.2版）の脚注は、NISTのAIリスクマネジメントフレームワーク（2023年1月）を、透明性（システムで何が起きたかについて答えられること）、説明可能性（システムでどのように決定がなされたかについて答えられること）、解釈可能性（なぜその決定がされたかについて、その意味又は文脈について答えられること）に分類していると紹介している。三つは「何が起きたか」「どのように決めたか」「なぜ決めたか、その意味は何か」という異なる問いに対応するため、設問の「どのように決定がなされたか」は説明可能性にあたる。なお同ガイドライン自身は、情報開示に関する事項を広く透明性として扱っている。

https://www.soumu.go.jp/main_content/001064279.pdf （AI事業者ガイドライン第1.2版 本編 6)透明性の脚注／大項目10 透明性）

正解は人口統計学的パリティ（demographic parity）。Google機械学習用語集は、モデルの分類結果が特定の機密属性に依存しない場合に満たされる公平性指標と定義し、グループ間の合格率が同じなら、一方が平均的により資格があるかどうかに関係なく達成される例を挙げている。機会の平等は望ましい結果を平等に予測しているかを評価する指標で、陽性クラスなら真陽性率が全グループで同じになることを求める。均等化オッズは真陽性率と偽陽性率の両方が同じであること、予測パリティは適合率が同等かどうかを確認する指標である。同用語集はこのように複数の公平性指標を別々に定義しており、指標ごとに比べる数値が異なるため、承認される割合そのものを比べるのか、実際に返済できる人のうちの承認率を比べるのかを見分けることが要点になる。

https://developers.google.com/machine-learning/glossary/fairness （Google 機械学習用語集「公平性」／大項目10 公平性）

正解は、不当で有害な偏見や差別をなくすよう努めつつ、回避できないバイアスがあることを認識し、人権や多様な文化を尊重する観点から許容できるかを評価する姿勢。AI事業者ガイドライン（第1.2版）本編の公平性は、特定の個人ないし集団への人種、性別、国籍、年齢、政治的信念、宗教等の多様な背景を理由とした不当で有害な偏見及び差別をなくすよう努めることを求める。同時に、それでも回避できないバイアスがあることを認識し、それが人権及び多様な文化を尊重する観点から許容可能か評価した上で開発・提供・利用を行うことも求めている。バイアスは努力すれば必ずゼロにできるという前提や、一度の偏りで一律に停止するという扱いは、この整理とは異なる。

https://www.soumu.go.jp/main_content/001064279.pdf （AI事業者ガイドライン第1.2版 本編 3)公平性／大項目10 公平性）