2025年10月25日、自由民主党は、公式Xを通じて「高市早苗」首相のAIで不正に生成された画像や映像の悪用事例が確認されたとして注意喚起している。
自民党広報によると、X上や動画共有サイトなどで高市首相の姿を使った「投資広告」や「キャンペーン案内」を装う偽広告が出回っており、クリックや登録を促す内容が確認されている状況が報告されている。
これらの広告の多くは、生成AI技術によって本人そっくりの映像や音声を作り出す「ディープフェイク」手法が用いられており、実際には首相本人とは一切関係のない詐欺サイトへ誘導するものとみられる。
複数のIT系メディアでも、自民党が10月24日に注意喚起を投稿したことを報じており、アクセスや個人情報入力をしないよう呼びかけている。
自民党広報部は「生成AI技術の発展により、見分けがつかないレベルの偽動画が容易に作成されるようになっている。信頼できる公式情報源の確認を徹底してほしい」としている。
政府内では、生成AIの悪用による風評被害や詐欺被害への法的対応についても検討が進められており、今後はAIによる画像・映像生成の出所を識別する「コンテンツ認証技術（デジタル透かし）」導入など、技術的対策が急がれる見通し。
同様のAI偽広告は近年、著名人や政治家を標的に世界的に増加している。
特に日本国内では、生成AIを使った詐欺的コンテンツがSNSを通じて短時間で拡散する傾向にあり、被害者が自ら個人情報を入力してしまうケースが後を絶たない。
専門家からは「この手の偽広告は単なるデマ拡散にとどまらず、氏名・住所・口座情報・クレジットカード番号などの個人情報流出につながるリスクが高い」という注意の声が上がっている。
【参考記事】
https://x.com/jimin_koho
