生成AIのリスクと備え
ディープフェイクとは（悪用の例と対策）
ディープフェイクは、生成AIパスポートの公式シラバスで、リスクの章に学習項目として置かれている用語です。ディープフェイクは、AI技術で合成した、本物のように見せかけた音声・画像・動画のことです。
このページは、公式シラバス、AI事業者ガイドライン第1.2版、広島AIプロセス国際指針の範囲で、位置づけ・出る章・備えを整理しています。
公式情報の確認
試験日、料金、申込条件、試験方式など変動する情報は、公式情報を最終確認してください。 当サイトの一次情報確認日: 2026-08-31。
試験の出題範囲・実施要項は変動するため、受験前に公式情報を確認してください。
結論
- ディープフェイクは、AI技術で合成した本物のように見せかけた音声・画像・動画で、なりすましなどの悪用が学習項目になっている
- 2027年2月適用のシラバスでは第4章に「ディープフェイクによるなりすまし」の学習項目があり、現行の2026年版では第3章の中項目になっている
- 備えの軸は、多要素認証など複数の確認手段と、人による確認・承認
- AI事業者ガイドラインは、偽情報・誤情報・偏向情報が社会を混乱させるリスクを認識して対策することを求める
ディープフェイクの位置づけ
公式シラバス（2027年2月適用版）は、第4章の中項目「生成AIの代表的リスク」で、リスクを出力内容、情報管理・権利侵害、倫理、セキュリティの観点から理解することを学習目標にしています。学習項目には、ハルシネーション、情報漏えい、個人情報・プライバシー侵害、著作権・知的財産権侵害、肖像権・パブリシティ権侵害、名誉毀損・信用毀損・炎上、差別・偏見・バイアスと並んで、「ディープフェイクによるなりすまし」と「フィッシング・詐欺・サイバー攻撃への悪用」が置かれています。
ディープフェイクは、出力の誤りではなく、なりすましなどへの悪用のリスクとして位置づけられています。同じ章でも、ハルシネーションは出力内容の信頼性、ディープフェイクは悪用という別の観点です。ハルシネーションの扱いはハルシネーションとはに整理しています。
AI事業者ガイドライン第1.2版は、人間中心の指針の一つとして偽情報等への対策を置き、生成AIによって内容が真実・公平であるかのように装った情報を誰でも作れるようになったことを前提にしています。ガイドライン自身は、ディープフェイクという語を使わず、偽情報・誤情報・偏向情報という表現で書いています。
定義は総務省の令和6年版情報通信白書によります。ディープラーニング（深層学習）とフェイク（偽物）を組み合わせた造語で、本物又は真実であるかのように誤って表示し、人々が発言や行動をしていないのにしているかのように描写することを特徴とする、AI技術を用いて合成された音声、画像、動画のことです。
一次資料: 生成AIパスポート公式シラバス、AI事業者ガイドライン第1.2版（総務省・経済産業省）、令和6年版情報通信白書（総務省）
シラバスのどこに出るか
公式シラバスでは、版によって置かれる章が違います。
| 場所 | 内容 |
|---|---|
| 2027年版 第4章 リスク（中項目「生成AIの代表的リスク」） | 学習項目に「ディープフェイクによるなりすまし」と「フィッシング・詐欺・サイバー攻撃への悪用」が並ぶ。詳細キーワードにディープフェイク、なりすまし、フィッシング、ソーシャルエンジニアリング、多要素認証、人間による確認・承認、本人の同意などが載る |
| 2027年版 第4章 リスク（AI倫理とAI事業者ガイドライン） | 学習項目に「偽情報・偏りと情報拡散のリスク」があり、詳細キーワードに偽情報、誤情報、エコーチェンバー、フィルターバブルなどが載る |
| 2026年版（現行） 第3章 現在の生成AIの動向 | 中項目「ディープフェイク（深層偽造）技術」の学習目標は「深層偽造（ディープフェイク）の危険性を理解する」。詳細キーワードに偽情報（ディスインフォメーション）が載る |
現行版は「危険性を理解する」技術の紹介、2027年版は「なりすまし」への悪用と対策を学ぶ位置づけです。章立ての変更は2027年2月試験の新シラバスに整理しています。
備えと対策
公式シラバスの詳細キーワードと、国際指針に出てくる備えを、出どころとあわせて並べます。シラバスの詳細キーワードは中項目ごとの一覧なので、最初の2行はキーワードをこのサイトが備えとして読み解いたものです。
| 備え | 内容 | 出どころ |
|---|---|---|
| 本人確認の方法を増やす | 声や映像だけで本人と判断せず、多要素認証など別の確認手段を組み合わせる | 公式シラバス（2027年版 第4章）の詳細キーワード（なりすまし、多要素認証） |
| 人による確認・承認 | 送金や情報提供のような影響の大きい行為は、AIの出力や連絡だけで進めず、人が確認して承認する | 公式シラバス（2027年版 第4章）の詳細キーワード（人間による確認・承認、ソーシャルエンジニアリング） |
| AI生成コンテンツを識別できる仕組み | 電子透かしなどで、AIが生成したコンテンツを利用者が識別できるようにする。対象は高度なAIシステムを開発する組織 | 広島AIプロセス国際指針（AI事業者ガイドライン第1.2版が脚注に掲載）の第7項 |
利用者側の備えは確認手段の追加、開発側の備えは識別できる仕組みの整備、と主体で分けて覚えます。シラバスは、肖像権・パブリシティ権侵害のリスクをディープフェイクとは別の学習項目に置いています。権利まわりの用語は生成AIと著作権のページでも確認できます。
よくある質問
ディープフェイクとは、一言でいうと何？
令和6年版情報通信白書（総務省）は、ディープラーニング（深層学習）とフェイク（偽物）を組み合わせた造語で、AI技術を用いて合成された音声、画像、動画のことと説明します。公式シラバス（現行の2026年版）は、深層偽造（ディープフェイク）の危険性を理解することを学習目標にしています。
ディープフェイクと偽情報は同じですか？
ディープフェイクと偽情報は別の概念です。シラバスは、ディープフェイクを「なりすまし」などの悪用の例として、偽情報を情報の拡散のリスクとして、別の学習項目に置いています。ディープフェイクが偽情報の手段になりうる、と関係づけて覚えます。
ハルシネーションとは何が違いますか？
ハルシネーションは、生成AIがもっともらしい誤りを出す問題で、出力の信頼性のリスクとして学習項目に置かれます。ディープフェイクは、なりすましや詐欺への悪用が学習項目の軸で、別の項目として並んでいます。
利用者はどう備えればよいですか？
公式シラバスの詳細キーワードには、なりすまし、多要素認証、人間による確認・承認が載っています。これらを、声や映像が本物らしく見えてもそれだけで本人と判断しない備えとして読むと整理しやすくなります。
AI事業者ガイドラインは、偽情報についてどう書いていますか？
偽情報等への対策として、生成AIによって、内容が真実・公平であるかのように装った情報を誰でも作れるようになり、AIが生成した偽情報・誤情報・偏向情報が社会を不安定化・混乱させるリスクが高まっていることを認識したうえで、必要な対策を講じる、と記しています。
