データ・AI・機械学習の意図的悪用とは

第1章 ビジネスマインドとデータリテラシー / 行動規範

攻撃者がAIで真偽を識別しにくい経営者の音声を作り、Botでフェイク情報を拡散して企業を攻撃した。行動規範上、最も直接的に該当する論点はどれか。

正解は「データ・AI・機械学習の意図的悪用」である。公式スキルチェックリストは、AI等の意図的な悪用の例として、真偽の識別が困難な画像・音声の作成、フェイク情報の作成、Botによる企業・国家への攻撃を挙げている。設問はこれらを攻撃目的で組み合わせているため、この論点に直接該当する。Hallucinationは大規模言語モデルが事実と異なる内容をもっともらしく出力する現象、マルウェアは有害な動作をするソフトウェア、データのねつ造は実際には得ていないデータを作る行為である。技術の誤作動ではなく、攻撃者が目的を持って利用している点を確認する。