大項目10 AI倫理・AIガバナンス
ディープフェイク・フェイクニュース・敵対的サンプルの違い
当サイトが整理したG検定の出題範囲では、大項目10の「バイアスと信頼性」に、ディープフェイク、フェイクニュース、フィルターバブル、エコーチェンバー、Adversarial Attack（Adversarial Examples）が並びます。だます相手が人なのか、モデルなのか、配信の仕組みなのかで、4語を分けられます。
このページは、総務省の情報通信白書と、敵対的サンプルの原論文を読み直し、4語を1枚の表で区別できるようにしました。公平性やバイアスの用語はAI倫理・AIガバナンスの整理で扱っています。
公式情報の確認
試験日、料金、申込条件、試験方式など変動する情報は、公式情報を最終確認してください。 当サイトの一次情報確認日: 2026-10-02。
試験の出題範囲・実施要項は変動するため、受験前に公式情報を確認してください。
結論
- ディープフェイクは、AI技術で合成した偽の音声・画像・動画
- フェイクニュースは、嘘やデマなどがネットで広まる現象の総称で、定義は研究者によって様々
- 敵対的サンプルは、モデルに誤った答えを高い確信度で出させるよう作った入力
- フィルターバブルは、履歴にもとづく配信で自分の関心に合う情報ばかりになる状態
4語の違い（一覧）
| 用語 | 意味 | 影響を受ける相手 | 区別の目印 |
|---|---|---|---|
| ディープフェイク | AI技術で合成した音声・画像・動画。実際には言動していない人が言動したように見せる | 見る人・聞く人（人をだます） | 作られた偽のコンテンツそのもの |
| フェイクニュース | 嘘やデマ、陰謀論、偽情報などがネット上で広まり、現実に悪影響を与える現象の総称 | 社会全体（広がること） | 定義は研究者によって様々。ディープフェイクも含みうる |
| 敵対的サンプル | 小さいが意図的に最悪にした変更を加え、モデルに誤った答えを高い確信度で出させる入力 | AIのモデル（モデルをだます） | 人にはほぼ同じに見えても、モデルは誤る |
| フィルターバブル | 履歴の分析にもとづく配信で、自分の関心に合う情報ばかりに囲まれる状態 | 利用者の情報環境 | 偽情報とは限らない。配信の仕組みが作る偏り |
出典:総務省「情報通信白書」令和元年版・令和5年版・令和6年版、Goodfellowら「Explaining and Harnessing Adversarial Examples」
ディープフェイクとフェイクニュース
総務省の令和6年版情報通信白書は、ディープフェイクを、「ディープラーニング（深層学習）」と「フェイク（偽物）」を組み合わせた造語で、本物又は真実であるかのように誤って表示し、人々が発言又は行動していない言動を行っているかのような描写をすることを特徴とする、AI技術を用いて合成された音声、画像あるいは動画コンテンツのことをいう、と説明します。ディープフェイクは、AIで作った偽のコンテンツそのものを指します。
令和元年版の同白書は、フェイクニュースの定義は研究者によって様々であり、嘘やデマ、陰謀論やプロパガンダ、誤情報や偽情報、扇情的なゴシップやディープフェイクなど、これらの情報がインターネット上を拡散して現実世界に負の影響をもたらす現象が、フェイクニュースという言葉で一括りにされている、と述べます。同ページの脚注は、ディープフェイクを人工知能（AI）の技術で合成した偽動画のこととしています。
- ディープフェイクは「作られたコンテンツ」、フェイクニュースは「広まる現象」
- フェイクニュースの中に、ディープフェイクが含まれる場合がある
- フェイクニュースには、必ずしも嘘ではないものも含まれうると同白書は述べる
出典:総務省「令和6年版 情報通信白書」、「令和元年版 情報通信白書」
敵対的サンプル
Goodfellowらの論文の要旨は、ニューラルネットワークを含む複数の機械学習モデルが、敵対的サンプルを一貫して誤分類すると述べます。敵対的サンプルとは、データセットの例に小さいが意図的に最悪にした摂動を加えて作った入力で、モデルが高い確信度で誤った答えを出すようになるものです。敵対的サンプルが狙うのは人ではなく、モデルの判断です。
ディープフェイクが人間に本物と信じさせるための偽のコンテンツであるのに対し、敵対的サンプルは入力に加える小さな変更によって、モデルの出力を誤らせる点が違います。G検定の出題範囲では、この語は「Adversarial Attack（Adversarial Examples）」と表記されています。
出典:Goodfellow, Shlens, Szegedy「Explaining and Harnessing Adversarial Examples」(arXiv:1412.6572)
フィルターバブル
総務省の令和5年版情報通信白書は、プラットフォーム事業者が利用者個人のクリック履歴などを分析（プロファイリング）して関心を持ちそうな情報を優先的に配信し、そのアルゴリズムで配信された情報を受け取り続けると、自身の興味のある情報だけにしか触れなくなる傾向にあるとし、これをフィルターバブルと呼びます。フィルターバブルは、偽情報があるかどうかとは別に、配信の仕組みが作る偏りです。
同ページは、SNSなどで自分と似た興味関心を持つユーザーが集まる場で意見を発信し、似た意見が返ってきて特定の意見や思想が増幅していく状態をエコーチェンバーと呼びます。人には自らの見たいもの、信じたいものを信じる心理的特性（確証バイアス）があるとも述べます。
出典:総務省「令和5年版 情報通信白書」第1部第3節（2）フィルターバブル、エコーチェンバー
選択肢の読み方
資料の記載から、選択肢を次のように読みます。
- 「ディープフェイクは、AIモデルを誤動作させる入力である」は、AIで合成した偽のコンテンツという説明と合わない
- 「敵対的サンプルは、人間をだますために合成した動画である」は、モデルに誤った答えを出させる入力という説明と合わない
- 「フェイクニュースは、必ずAIで合成したものである」は、嘘やデマなど幅広い情報を含む現象という整理と合わない
- 「フィルターバブルは、似た意見の人が集まる場で意見が増幅する状態である」は、エコーチェンバーの説明にあたる
ここで挙げた読み方は、一次資料の記載から導いたこのページの整理で、出題を予想するものではありません。
G検定の学習に使う書籍（Amazon）
試験範囲を通して読むときの1冊です。読んだ章は、このサイトの章別問題で確かめられます。
よくある質問
ディープフェイクとフェイクニュースは同じ意味ですか？
同じではありません。総務省の令和元年版情報通信白書は、フェイクニュースを嘘やデマ、陰謀論、誤情報や偽情報、扇情的なゴシップやディープフェイクなどがネット上で拡散し、現実世界に負の影響をもたらす現象と整理しています。**ディープフェイクはフェイクニュースに含まれうる一つの手段**で、フェイクニュースはもっと広い現象を指します。
敵対的サンプルは、ディープフェイクの仲間ですか？
仲間ではありません。ディープフェイクは人をだますために作る偽のコンテンツです。敵対的サンプルは、Goodfellowらの論文によれば、データセットの例に小さいが意図的に最悪にした摂動を加え、モデルに誤った答えを高い確信度で出させる入力で、**だます相手はモデル**です。
フィルターバブルとエコーチェンバーはどう違いますか？
総務省の令和5年版情報通信白書は、フィルターバブルを、事業者が利用者の履歴などを分析して関心のありそうな情報を優先的に配信し続けた結果、自分の興味のある情報にしか触れなくなる状態と説明します。エコーチェンバーは、SNSなどで似た興味関心の人が集まり、自分の意見に似た意見が返ってきて増幅していく状態です。**前者は配信の仕組み、後者は人の集まり方**が出発点です。