G検定 大項目7 AIの社会実装に向けて 予想問題（2/2）

この事例では「予測へ至った要因を人へ説明可能にするか」を確認すると、説明可能AI（XAI）に絞れる。正解は「説明可能AI（XAI）」である。説明可能AI（XAI）は、AIの判断理由や根拠を人が理解できる形で説明するための考え方で、融資審査のように説明責任が問われる場面で重要になる。データリーケージは評価時に本来使えない情報が混入する問題、オープンデータは公開データ、GPUは計算資源であり、判断理由の説明という観点ではない。 説明責任を支える具体的なモデル解釈技術を問う。データリーケージは情報混入事故、オープンデータは公開条件、GPUは計算装置である。特徴寄与度や局所説明などで判断理由を説明可能にするのがXAIである。

https://www.jdla.org/certificate/general/

この事例では「サービス設計時点からプライバシー保護を組み込むか」を確認すると、プライバシー・バイ・デザインに絞れる。正解は「プライバシー・バイ・デザイン」である。設問が問うているのは、個人情報保護を「いつ」組み込むかという時期の違いである。プライバシー・バイ・デザインは、運用が始まってからの事後対応に頼るのではなく、企画・設計の最初の段階からあらかじめ保護の仕組みを作り込んでおく考え方であり、事後に説明責任を果たす取り組みとは組み込む時期の点で区別される。他の3つの選択肢は、いずれも「設計段階からの作り込み」という主題そのものとは異なる層に属する点で一括りにできる。データリーケージは学習時に本来使えない情報が紛れ込む事故、概念ドリフトは運用が始まった後にデータの傾向が変化する現象、オープンデータは公開データの分類であり、いずれも設計段階からの作り込みという考え方そのものを表す語ではない。

https://www.jdla.org/certificate/general/

この事例では「予測時には未知の事後情報が学習へ漏れているか」を確認すると、データリーケージに絞れる。正解はデータリーケージ。本来は予測時点で得られないはずの正解に関わる情報が学習データ（特徴量）に紛れ込み、検証では高精度に見えても本番運用で性能が出なくなる問題である。概念ドリフトは運用中に入力データの傾向が変化して精度が下がる現象、データの品質はデータの正確さや目的への適合の度合い、データの加工・前処理はデータを整える工程であり、いずれも正解情報の漏れ込みによって見かけ上だけ高精度になる問題を指す語ではない。 性能低下の時点と原因を分ける。概念ドリフトは運用後の分布変化、データ品質は正確性・欠損等の総称、前処理はデータ整形工程である。将来情報や正解を示唆する列が訓練・検証へ漏れ、見かけの精度だけ上がるのはデータリーケージである。

https://www.jdla.org/certificate/general/ （大項目7 AIの社会実装に向けて）

この事例では「ネットワーク接続に依存せず現場側で推論するか」を確認すると、エッジAIに絞れる。正解は「エッジAI」である。エッジAIは、端末や現場に近い場所でAIの推論などを行う構成であり、通信遅延やデータ送信量を抑えたい場面で用いられる。クラウドはネットワーク越しに計算資源を利用する形態、MLOpsはモデルの開発・運用を継続的に回す方法論、プライバシー・バイ・デザインは設計段階から個人情報保護を組み込む考え方である。 計算する場所を確認する。クラウドは遠隔データセンターの計算資源、MLOpsは開発運用の方法論、プライバシー・バイ・デザインは設計原則である。工場端末やスマートフォンなど現場側で推論するのがエッジAIである。

https://www.jdla.org/certificate/general/

この事例では「モデル判断の理由を人が確認できるか」を確認すると、説明可能AI（XAI）に絞れる。正解は「説明可能AI（XAI）」である。説明可能AI（XAI）は、AIの判断理由や根拠を人が理解できる形で説明するための考え方で、融資審査のように説明責任が問われる場面で重要になる。データリーケージは評価時に本来使えない情報が混入する問題、オープンデータは公開データ、GPUは計算資源であり、判断理由の説明という観点ではない。 説明責任を支える具体的なモデル解釈技術を問う。データリーケージは情報混入事故、オープンデータは公開条件、GPUは計算装置である。特徴寄与度や局所説明などで判断理由を説明可能にするのがXAIである。

https://www.jdla.org/certificate/general/

この事例では「個人情報保護を開発後でなく設計時から扱うか」を確認すると、プライバシー・バイ・デザインに絞れる。正解は「プライバシー・バイ・デザイン」である。設問が問うているのは、個人情報保護を「いつ」組み込むかという時期の違いである。プライバシー・バイ・デザインは、運用が始まってからの事後対応に頼るのではなく、企画・設計の最初の段階からあらかじめ保護の仕組みを作り込んでおく考え方であり、事後に説明責任を果たす取り組みとは組み込む時期の点で区別される。他の3つの選択肢は、いずれも「設計段階からの作り込み」という主題そのものとは異なる層に属する点で一括りにできる。データリーケージは学習時に本来使えない情報が紛れ込む事故、概念ドリフトは運用が始まった後にデータの傾向が変化する現象、オープンデータは公開データの分類であり、いずれも設計段階からの作り込みという考え方そのものを表す語ではない。

https://www.jdla.org/certificate/general/

この事例では「予測対象の確定後に得る変数が訓練へ混入したか」を確認すると、データリーケージに絞れる。正解はデータリーケージ。本来は予測時点で得られないはずの正解に関わる情報が学習データ（特徴量）に紛れ込み、検証では高精度に見えても本番運用で性能が出なくなる問題である。概念ドリフトは運用中に入力データの傾向が変化して精度が下がる現象、データの品質はデータの正確さや目的への適合の度合い、データの加工・前処理はデータを整える工程であり、いずれも正解情報の漏れ込みによって見かけ上だけ高精度になる問題を指す語ではない。 性能低下の時点と原因を分ける。概念ドリフトは運用後の分布変化、データ品質は正確性・欠損等の総称、前処理はデータ整形工程である。将来情報や正解を示唆する列が訓練・検証へ漏れ、見かけの精度だけ上がるのはデータリーケージである。

https://www.jdla.org/certificate/general/ （大項目7 AIの社会実装に向けて）