概要
AIエージェントの活用が進む中、サイバー攻撃でも「自律性」を高めた手法が現実味を帯びている。従来は攻撃者が手作業で行っていた情報収集や手順の組み立てを、AIが一定範囲で代行し得る点が注目されている。一方で、現時点での実態は万能な自動攻撃というより、攻撃者がAIを「生産性ツール」として活用し攻撃の障壁を下げている段階であることが論じられている。
詳細な説明
記事では、AIエージェントが「目標設定に基づいてタスクを分解し、必要な情報を集め、次の行動を選ぶ」といった流れを担える可能性に触れている。これにより、攻撃の下準備に当たる調査や試行錯誤が短縮され、攻撃者側の作業負担が下がる局面があり得る。
ただし、自律的に進めるためには環境理解や判断の精度が必要であり、現実のシステムは例外や制約が多い。AIの出力が常に正しいわけではなく、途中で誤った仮定に基づいて進むリスクもある。つまり「完全自律で一気通貫に侵害する存在」が直ちに一般化しているというより、部分的な自動化として実装・利用されやすい段階である、という見立てが示されている。
現在の実態
犯罪者たちは着実にAIを活用しており、具体的な被害が報告されている。マイクロソフトの報告書によれば、2025年4月までの1年間で40億ドル相当規模の詐欺や不正な取引が阻止され、その多くはAIが生成したコンテンツによって支援された可能性が高いという。また、標的型メール攻撃の少なくとも14％が大規模言語モデルを使用して作り出されており、2024年4月の7.6％から増加している。ディープフェイクによる詐欺も数千万ドル規模の被害が発生している。
影響と対策
AIによって攻撃準備や反復作業が効率化されると、攻撃の試行回数が増えたり、状況に合わせた手口の選択が速くなったりする可能性がある。2026年には、攻撃チェーンのほぼすべての段階にAIが組み込まれると予想されており、脅威アクターは多言語のフィッシング誘導文の作成、リアルな偽サイトの生成、持続性の確保、ラテラルムーブメント、データアクセスなどを自動化することが見込まれている。その結果、防御側は従来以上に「異常の早期検知」と「運用の標準化」が重要になる。
対策としては、侵入経路になりやすい資産の把握と管理、ログの継続的な監視、インシデント対応手順の整備と訓練など、基本的なセキュリティ運用を確実に回すことが前提となる。また、AIエージェントを重要なアイデンティティとして扱い、その権限を管理し、行動を監視し、リスクをスコアリングすることが求められる。AI特有の話題であっても、基礎的な統制が弱い部分ほど狙われやすい点は変わらない。
まとめ
AIエージェントによる自律型サイバー攻撃は、現時点では攻撃の全工程を無人で完結させるというより、攻撃者の作業を部分的に効率化する形で現実に近づいている。完全自律型攻撃は未実現だが、AIが攻撃の障壁を下げており、従来の防御策強化と情報共有による対策が急務となっている。防御側は流行語として捉えるのではなく、監視と対応の実装力を高め、日々の運用で穴を作らないことが重要である。
