AIのバイアスとは（要因と対策）

結論

1. バイアスは、人種、性別、国籍、年齢などを理由にした、不当で有害な偏見や差別につながる偏りのこと
2. 要因は学習データだけでなく、アルゴリズム、プロンプト、外部サービス、利用者の振る舞いなど多岐に渡る
3. センシティブな属性を消したデータでも、関連する情報から属性が類推され、バイアスが残ることがある
4. 対策は、要因のポイントを特定することと、適切なタイミングで人間の判断を介在させること

バイアスの定義

AI事業者ガイドライン第1.2版は、公平性の項目で、特定の個人や集団に対する、人種、性別、国籍、年齢、政治的信念、宗教などの多様な背景を理由とした、不当で有害な偏見と差別をなくすよう努めることが重要だと述べています。

そのうえで、回避できないバイアスがあることを認識しつつ、そのバイアスが人権や多様な文化を尊重する観点から許容できるかを評価して、開発・提供・利用を行うことが重要だとしています。ガイドラインは、バイアスをゼロにすることだけでなく、許容できるかを評価することも求めています。

もう一つ、言葉の注意点があります。ガイドラインの脚注は、バイアスという言葉を、サンプリングバイアスなどの統計的な用語や、認知バイアスなどの心理学的な用語を含む、さまざまな解釈の総称として使うと説明します。統計検定やデータ分析の学習で出会うバイアスと、同じ意味とは限りません。

一次資料: 総務省・経済産業省「AI事業者ガイドライン（第1.2版）」

バイアスを生む要因

ガイドラインは、バイアスを生み出す要因は多岐に渡るため、要因となるポイントを特定するとして、次の7つを含めて挙げます。

学習データだけが原因と考えると、選択肢を読み違えます。プロンプトや推論時に参照する情報、連携する外部サービス、AI利用者の振る舞いまで含まれているため、AIを提供する側だけでなく、使う側にも関係があります。右の列の意味は、このページが補った短い説明です。

取り除いても残る例

ガイドラインは、潜在的なバイアスの例を2つ挙げています。

• 人種や性別などの明らかなセンシティブ属性を取り除いたデータでも、関連する情報からセンシティブ属性が類推されてしまう場合
• 複数の属性の組み合わせによって、バイアスが生じる場合（交差バイアス）

「属性の列を消したから公平」とは言い切れない、というのが1つ目の例の意味です。2つ目の交差バイアスは、1つの属性だけを見ても偏りが見えず、属性の組み合わせで初めて現れる偏りです。選択肢で「属性を除外すれば問題は解消する」と断定していたら、この例と合わないと読みます。

対策の考え方

ガイドラインの対策は、大きく2つに分けて読めます。1つ目は、上の7つの要因のどこで偏りが入りうるかを特定することです。2つ目は、AIに単独で判断させるだけでなく、適切なタイミングで人間の判断を介在させる利用を検討することです。

人の判断を入れる場合も、人間の判断が自動化バイアスに左右されない対策を講じるとされています。自動化バイアスは、一般にAIの出力をそのまま受け入れてしまう傾向を指し、人が確認していても、AIの結論に流されれば意味が薄れる、という注意です。人を入れるだけでなく、人が自分で判断できる状態を保つことまで含めて、対策です。

出力の検証や専門家への確認といった基本姿勢は、ハルシネーションの対策と共通する部分があります。ハルシネーションの原因と対策はハルシネーションとはに、2つの違いの比べ方はハルシネーションとバイアスの違いに整理しています。このページは、バイアスそのものの定義と要因に絞っています。

シラバスのどこに出るか

2027年2月試験から適用される公式シラバスでは、次の3か所にバイアスが載っています。

学習の仕組みの章ではデータの面から、リスクの章では差別・偏見の面から、バイアスを読みます。章立ての変更は2027年2月試験の新シラバスに整理しています。試験での出題を予想するものではありません。

よくある質問

次に読むと効率的なページ