生成AIのリスク・AI倫理
エコーチェンバー・フィルターバブル・デジタルタトゥーとは
偽情報、誤情報、エコーチェンバー、フィルターバブル、デジタルタトゥーは、2027年2月試験から適用される生成AIパスポートの公式シラバスで、第4章のAI倫理の詳細キーワードに並ぶ用語です。偽情報・誤情報は情報の中身、フィルターバブルとエコーチェンバーは情報の届き方と広がり方、デジタルタトゥーは書き込んだものが残ること、と何が起きる現象かで見分けます。
このページは、公式シラバスと総務省の情報通信白書の範囲で、5つの語の違いと、生成AIが加わると何が変わるかを整理しています。
公式情報の確認
試験日、料金、申込条件、試験方式など変動する情報は、公式情報を最終確認してください。 当サイトの一次情報確認日: 2026-08-31。
試験の出題範囲・実施要項は変動するため、受験前に公式情報を確認してください。
結論
- 偽情報・誤情報は、事実と異なる内容の情報。総務省の白書は、まとめて「偽・誤情報」と呼ぶ
- フィルターバブルは、アルゴリズムが見たい情報を優先して届け、利用者が自分の価値観の泡の中に孤立すること
- エコーチェンバーは、似た意見の人が集まる場で、特定の意見が反響して強まること
- デジタルタトゥーは、インターネット上に記録されたデータやログが残り続けて消せないこと
偽情報と誤情報
総務省の令和5年版情報通信白書は、フェイクニュースや真偽不明の誤った情報などをまとめて「偽・誤情報」と呼んでいます。偽情報と誤情報を分ける定義文は、同じ白書には載っていません。 白書が挙げる例には、広告収入を得る目的で作られた偽・誤情報があります。2016年の米国大統領選挙では、北マケドニア共和国の学生が広告収入目的で大量の偽・誤情報を発信し、ボットなどで拡散・増幅されたとされています。
広まりやすさについては、令和3年版の白書が次の特性を挙げています。SNSでは一般の利用者でも容易に発信・拡散でき、偽情報は正しい情報よりも早く広く拡散する特性があります。内容が誤っているかどうかの話と、どう届きどう広がるかの話は、別の論点です。
一次資料: 総務省 令和5年版・令和3年版 情報通信白書
フィルターバブルとエコーチェンバー
令和5年版の白書は、まず人の心理的特性として、自分の見たいもの、信じたいものを信じる傾向（確証バイアス）を挙げます。そのうえで、プラットフォーム事業者がクリック履歴などを分析（プロファイリング）し、関心を持ちそうな情報を優先して配信していると説明します。 この配信を受け取り続けると、自分の興味のある情報だけに触れる、情報の膜に包まれたような状態になりやすく、これがフィルターバブルです。バブルの内側では似た意見が集まり、反対の意見は排除されるため、その存在に気付きづらい点が特徴です。
エコーチェンバーは、SNSなどで似た興味関心を持つユーザーが集まる場でやり取りするうちに、自分の意見に似た意見が返ってきて、特定の意見や思想が増幅していく状態です。同じ意見を何度も聞くことで、それが正しいと強く信じ込む傾向があります。フィルターバブルは配信の仕組みから、エコーチェンバーは集まる人の関係から起きる、と起点で分けると混ざりません。
白書は、この2つにより集団分極化が発生しているとの指摘があること、意見の偏りが社会の分断を誘引し、民主主義を危険にさらす可能性もあることも述べています。
一次資料: 総務省 令和5年版・令和6年版 情報通信白書
デジタルタトゥー
総務省の平成29年版情報通信白書は、デジタルタトゥーを、インターネット上ではデータやログがいったん記録されたら永続的に残り続けて消すことができないことを、入れ墨（タトゥー）にたとえた言葉と説明しています。 同じ白書のコラムでは、ネットの安全な使い方を教える講師が、何も考えずに書き込んだり、写真や動画を気軽に載せたりすると、ネットの中に情報が残り、その子の後々の人生に影響してしまうと語っています。偽情報やバブルが「受け取る側」の話なのに対し、デジタルタトゥーは「発信する側」が残すものの話です。
一次資料: 総務省 平成29年版 情報通信白書
4つを見分ける
説明文のどの語に反応するかで切り分けます。
| 用語 | 手掛かり語 | 役割の要点 |
|---|---|---|
| 偽情報・誤情報 | フェイクニュース、真偽不明 | 事実と異なる内容の情報そのもの。白書は偽情報と誤情報を別々に定義せず、まとめて「偽・誤情報」と呼ぶ |
| フィルターバブル | アルゴリズム、履歴、見たい情報だけ | 検索やクリックの履歴を分析する仕組みが、見たい情報を優先して届け、利用者が自分の価値観の泡の中に孤立する |
| エコーチェンバー | 同じ意見の集まり、反響、増幅 | 似た意見の人が集まる場で、自分に似た意見が返ってくるうちに、特定の意見が強まっていく |
| デジタルタトゥー | 消せない、残り続ける | インターネット上に記録されたデータやログが残り続けて消せないこと。入れ墨にたとえた言葉 |
生成AIで何が変わるか
令和6年版の白書は、ディープフェイクによる偽画像・偽動画といった偽・誤情報を鵜呑みにしてしまい、情報操作や世論工作に使われるリスクを指摘しています。また、AIがさらに精緻になると、よりピンポイントな情報が提示されて、ユーザーが受け取る情報の偏りがさらに進む懸念も指摘されています。 AI事業者ガイドライン第1.2版も、内容が真実・公平であるかのように装った情報を誰でも作れるようになり、AIが生成した偽情報・誤情報・偏向情報が社会を不安定化・混乱させるリスクが高まっていると記しています。
生成AIは偽情報を作る手間を下げ、推薦の仕組みは届き方を偏らせるため、2つの問題が重なって大きくなります。ディープフェイクの仕組みと対策はディープフェイクとはに、AI生成物の来歴を示す技術はC2PAにまとめています。
一次資料: 総務省 令和6年版 情報通信白書、AI事業者ガイドライン第1.2版
シラバスのどこに出るか
| 場所 | 内容 |
|---|---|
| 第4章 生成AIのリスク予防・AI倫理・ガバナンス（2027年2月適用版） | AI倫理とAI事業者ガイドラインの項目に、学習項目「偽情報・偏りと情報拡散のリスク」を置く |
| 同じ項目の詳細キーワード | 偽情報、誤情報、誤送信、エコーチェンバー、フィルターバブル、デジタルタトゥーなどが並ぶ |
受験する回の適用版を確かめてから、この範囲の優先度を決めます。章立ての変更は2027年2月試験の新シラバスに整理しています。試験での出題を予想するものではありません。
よくある質問
フィルターバブルとエコーチェンバーは、同じ意味ですか？
同じではありません。総務省の情報通信白書では、フィルターバブルは配信の仕組み（アルゴリズムが見たい情報を優先して届ける）が生む状態、エコーチェンバーは似た意見が集まる場でのやり取りが生む状態として分けて説明されています。どちらも自分と違う意見に触れにくくなる点は共通します。
偽情報と誤情報は、どう違いますか？
総務省の情報通信白書は、フェイクニュースや真偽不明の誤った情報などをまとめて「偽・誤情報」と呼んでおり、2つを分ける定義文は載せていません。シラバスは偽情報と誤情報を別の語として並べているため、出題を意識するなら、受験する回の公式の問題や解説で使われ方を確かめてください。
デジタルタトゥーは、なぜ問題になりますか？
インターネット上では、データやログが一度記録されると永続的に残り続けて消せないとされるためです。総務省の情報通信白書のコラムでは、ネットの安全な使い方を教える講師が、何も考えずに書き込んだり写真や動画を気軽に載せたりすると、その子の後々の人生に影響してしまうと語っています。
生成AIを使うと、偽情報はどうなりますか？
総務省の令和6年版情報通信白書は、ディープフェイクによる偽画像・偽動画といった偽・誤情報を鵜呑みにしてしまい、情報操作や世論工作に使われるリスクを指摘しています。AI事業者ガイドライン第1.2版も、AIが生成した偽情報・誤情報・偏向情報が社会を不安定化・混乱させるリスクが高まっていると記しています。
偽・誤情報に、どれくらいの人が触れていますか？
総務省が2023年度に実施したアンケートでは、回答者の約半数（48.0％）が、SNS上で偽・誤情報を週1回以上見かけたと答えています。
生成AIパスポートの学習に使う書籍（Amazon）
試験範囲を通して読むときの1冊です。読んだ章は、このサイトの章別問題で確かめられます。
