生成AIのリスク・AI倫理・ガバナンス
生成AIツールを選ぶときの確認項目
会社で生成AIツールを選ぶときに何を確かめるかは、2027年2月試験から適用される生成AIパスポートの公式シラバスで、第4章の学習項目「AIツールを選定する際の確認項目」に置かれています。確認の中心は、入力データが学習に使われないか、データがどこに保存されるか、第三者の認証があるか、ログを残せるか、の4点です。
このページは、IPAとデジタル庁の公的なガイドラインに書かれている範囲で、この4点を整理しています。
公式情報の確認
試験日、料金、申込条件、試験方式など変動する情報は、公式情報を最終確認してください。 当サイトの一次情報確認日: 2026-08-31。
試験の出題範囲・実施要項は変動するため、受験前に公式情報を確認してください。
結論
- 入力データが学習に使われるかを確認し、オプトアウトが明記されたサービスを選ぶ
- PaaS型で海外リージョンを使うと、データの格納が輸出管理の対象になる可能性がある
- ISMSは認証基準がJIS Q 27001（ISO/IEC 27001）の第三者認証。認証があっても生成AI特有のリスクへの対応は別に必要
- 入力と出力のログを保存しておくと、迅速な事後対応ができる
入力データが学習に使われるか
IPAの「テキスト生成AIの導入・運用ガイドライン」（2024年7月）は、組織が使うサービスの形を、オンプレ型、クラウド型（SaaS型・PaaS型など）、提供者のAPIを使うハイブリッド型に分けています。 SaaS型について、利用するサービスやその設定内容によっては、入出力データがサービス提供者側の生成AIに学習される可能性があると注意しています。
同じガイドラインは、システム面の点検項目として「オプトアウト可能なサービスの選定」を挙げ、オプトアウトが明記されていないサービスを使うと、ユーザーが入力した内容が学習に使われてしまうおそれがあるとしています。入力した情報がそのまま他人への回答に混ざる心配があるため、最初に確かめる項目になります。
一次資料: IPA「テキスト生成AIの導入・運用ガイドライン」
データの保存場所
IPAのガイドラインは、PaaS型で海外リージョンを使う場合、データベースが海外に設置されるため、データの格納が安全保障貿易管理（輸出管理）の対象になる可能性があるとしています。 あわせて、サービス提供側の対策は必ずしも完璧ではなく、サービスや設定によっては自社のデータが外部に漏れるリスクもあるため、適切なセキュリティ設定が必要だとしています。
シラバスの詳細キーワードにある「データの保存・処理場所」「データ移転」は、こうした保存先の確認にあたります。
一次資料: IPA「テキスト生成AIの導入・運用ガイドライン」
ISMSなどの第三者認証
ISMS適合性評価制度を運営するISMS-ACによると、ISMSの認証基準はJIS Q 27001（ISO/IEC 27001）で、第三者である認証機関が、認証を希望する組織の適合性を評価する基準です。 現在の基準は、ISO/IEC 27001:2022とその追補（Amd 1:2024）に対応するJIS Q 27001:2025として示されています。
デジタル庁の「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」（2026年6月12日）は、要機密情報を扱うクラウドサービスを調達する場合、原則として政府情報システムのためのセキュリティ評価制度（ISMAP）のリストから選ぶ必要があるとしています。ただし、リストから選んだものでも、生成AIシステム特有のリスクへの対応は別に行う必要があり、ガイドラインの対応が不要になるわけではありません。
同じガイドラインは、不特定多数の利用者に提供され、定型約款や規約への同意だけで使えるクラウド型の生成AIは、業務で使う場合、原則として要機密情報を扱えないとしています。 これは行政機関向けの定めです。民間企業の社内ルールの作り方は、AIガバナンスとアジャイル・ガバナンスに整理しています。
一次資料: ISMS-AC「ISMS適合性評価制度の概要」、デジタル庁ガイドライン
SOC 2・SSO・多要素認証・SLAの意味
シラバスの詳細キーワードにある4つの用語は、総務省、経済産業省、日本公認会計士協会の資料で次のように説明されています。
- SOC 2：総務省の「クラウドサービス提供における情報セキュリティ対策ガイドライン（第2版）」は、クラウド事業者のセキュリティ・可用性・処理のインテグリティ・機密保持に係る内部統制を、監査人等が利用者に対して保証する報告書の海外の例としてSOC 2を挙げています。 利用者はこの報告書の提供を受けることで、クラウド事業者を管理監督する責任を代替できるとしています。 日本公認会計士協会のTrustサービス規準では、評価の観点（カテゴリー）はセキュリティ、可用性、処理のインテグリティ、機密保持、プライバシーの5つです。内部統制の設計の適切性だけを見るのがタイプ1、一定期間の運用の有効性までテスト結果つきで見るのがタイプ2です。
- シングルサインオン（SSO）：総務省の用語集は、認証の機能だけを独立して提供する認証サーバとOSやデータベースを連携させることで、シングルサインオンの横断的な認証基盤を導入できると説明しています。 つまり、複数のシステムをまたいで認証をまとめる仕組みです。
- 多要素認証：総務省の用語集によると、利用者認証を「知っているもの」「持っているもの」「本人自身に関するもの」の3つの要素のうち、2つ以上を使って行うものです。2つの要素を使うものは二要素認証とも言います。 同じ要素で認証を2回に分ける二段階認証とは異なり、同じ要素を2回よりも異なる要素を2回のほうがセキュリティレベルは高くなると説明されています。
- SLA（サービスレベル合意）：経済産業省の「SaaS向けSLAガイドライン」は、サービスの範囲・内容・前提事項を踏まえて、サービス品質に対する利用者側の要求水準と提供者側の運営ルールを明文化したものと説明しています。 サービス利用契約の一部または独立した文書として結ばれ、サービスレベルが達成されなかった場合の対応（補償）も構成要素に含まれます。
ツールを選ぶ場面では、SOC 2の報告書を出せるか、社内の認証基盤とSSOでつなげるか、多要素認証を使えるか、SLAでどこまで保証されるかを、確認項目として並べることになります。ただし、ここで挙げた資料はいずれも生成AIに限った文書ではなく、クラウドサービス一般についての説明です。
一次資料: 総務省「クラウドサービス提供における情報セキュリティ対策ガイドライン（第2版）」、総務省 国民のための情報セキュリティサイト 用語集、経済産業省「SaaS向けSLAガイドライン」（2008年1月）、日本公認会計士協会「Trustサービス規準」（2022年12月28日）
ログとアクセス管理
IPAのガイドラインは、点検項目に「入出力プロンプトを含めたログ管理」を挙げ、入力と出力のログを保存しておくことで、迅速な事後対応ができるとしています。 デジタル庁のガイドラインも、生成AIシステムでは、不正利用や不正操作の検証に必要なログとして、入力、出力、アクセス履歴を取得・管理するよう求め、権限を持つ者だけがアクセス制御を設定できる機能を設けることも挙げています。ログは、問題が起きたあとに「誰が何を入力したか」をたどるための材料です。
承認されていないツールが使われると、ログも残らず、選定の確認も受けられません。この問題はシャドーAIとはにまとめています。
一次資料: IPAガイドライン、デジタル庁ガイドライン
確認項目の一覧
| 確認項目 | 資料に書かれていること | 出典 |
|---|---|---|
| 入力データの学習利用 | サービスや設定によっては入出力データが提供者側の生成AIに学習される可能性がある。オプトアウト（学習に使わせない設定）が明記されたサービスを選ぶ | IPAガイドライン |
| データの保存・処理場所 | PaaS型で海外リージョンを使うと、データの格納が安全保障貿易管理（輸出管理）の対象になる可能性がある | IPAガイドライン |
| 第三者認証（ISMSなど） | ISMSの認証基準はJIS Q 27001（ISO/IEC 27001）。認定された認証機関の審査に適合した組織が認証を取得する。要機密情報を扱うクラウドサービスを政府が調達する場合は、原則としてISMAPのリストから選ぶ | ISMS-AC、デジタル庁 |
| SOC 2・SSO・多要素認証・SLA | SOC 2は内部統制の保証報告書、多要素認証は3要素のうち2つ以上での認証、SLAは品質の要求水準を明文化した合意、SSOは認証をまとめる仕組み（クラウド一般の資料での説明） | 総務省、経済産業省、日本公認会計士協会 |
| ログの取得と管理 | 入力と出力のログを保存しておくと、迅速な事後対応ができる。権限を持つ者だけがアクセス制御を設定できる機能も求められる | IPAガイドライン、デジタル庁 |
| 不特定多数向けの規約同意型サービス | 定型約款や規約への同意だけで使えるクラウド型の生成AIは、政府の業務では原則として要機密情報を扱えない | デジタル庁 |
シラバスのどこに出るかは次のとおりです。受験する回の適用版を確かめてから、この範囲の優先度を決めます。
| 場所 | 内容 |
|---|---|
| 第4章「AIガバナンスと社内ガイドライン」の学習項目 | 「AIツールを選定する際の確認項目」「AIツールのレベル分けと入力情報のルール」「新しいAIツールの申請と承認フロー」が並ぶ |
| 同じ項目の詳細キーワード | データの保存・処理場所、通信経路、データ移転、SLA、ISMS（ISO/IEC 27001）、SOC 2、シングルサインオン（SSO）、多要素認証、閉域網、オンプレミス、ローカルLLM、アクセス管理、提供事業者の透明性、入力可能な情報、承認済みツールなどが並ぶ |
章立ての変更は2027年2月試験の新シラバスに整理しています。試験での出題を予想するものではありません。
よくある質問
AIツールを選ぶとき、まず何を確認しますか？
入力したデータが学習に使われるかどうかです。IPAのガイドラインは、オプトアウトが明記されていないサービスでは、ユーザーが入力した内容が学習に使われて情報漏洩につながるおそれがあるとして、オプトアウトできるサービスの選定を点検項目に挙げています。
ISMS認証があれば、生成AIツールは安全ですか？
認証があるだけで十分とは言えません。デジタル庁のガイドラインは、ISMAPのリストから選んだクラウドサービスであっても、生成AIシステムに特有のリスクへの対応は別に行う必要があり、ガイドラインの対応が不要になるものではないと注意しています。
海外リージョンを使うと、何が問題になりますか？
IPAのガイドラインは、PaaS型で海外リージョンを使うとデータベースが海外に設置されるため、データの格納が安全保障貿易管理（輸出管理）の対象になる可能性があると注意しています。
SOC 2とシングルサインオン、多要素認証、SLAは何を指しますか？
SOC 2は、クラウド事業者の内部統制を監査人等が利用者に保証する報告書の海外の例です（総務省のクラウドガイドライン）。多要素認証は、知っているもの・持っているもの・本人自身に関するものの3要素のうち2つ以上で認証する方式です（総務省の用語集）。SLAは、サービス品質の要求水準と提供者の運営ルールを明文化した合意です（経済産業省のSaaS向けSLAガイドライン）。シングルサインオンは、認証サーバで複数のシステムの認証をまとめる仕組みとして総務省の用語集に出てきます。
生成AIパスポートの学習に使う書籍（Amazon）
試験範囲を通して読むときの1冊です。読んだ章は、このサイトの章別問題で確かめられます。
