全世界停止の概要と情シスへの示唆
Anthropicの新型AIモデル「Claude Fable 5」と上位の「Claude Mythos 5」が、提供開始から3日で全世界向けに停止されたと報じられた。原因は障害や侵害ではなく、米商務省が国家安全保障を理由に外国籍者の利用停止を命じる輸出管理措置を出したためである。Anthropicは国籍のリアルタイム判定が困難として、指令に準拠するため全ユーザーを一括停止した。
本件はランサムウェア等のインシデントではないが、クラウドAIが規制一つで即時に利用不能となるリスクを示した。業務に組み込んだAIが突然止まる前提で、BCPと統制を再点検すべき局面である。
安全保障とサイバー領域で争点化する「高度AI」
報道では、特定のプロンプトによりサイバー能力の制限を回避できる懸念が指摘されたという。ただし、政府書簡に技術的理由が明記されたわけではなく、実際にどの能力が確認されたかは不明である。いずれにせよ、生成AIが攻撃支援に転用され得る点が安全保障上の論点として扱われ始めたことが重要だ。
情シスの観点では、調達・利用するAIが「機能」だけでなく「規制対象になり得る能力」として評価される時代に入ったと捉えるべきである。外部サービス依存の設計は、法規制や地政学の影響を可用性リスクとして直接受ける。
企業が備えるべき運用・ガバナンスの要点
第一に、AIの停止基準と切替手順を明文化する。規制措置や提供側判断で突然停止する前提で、代替モデルや代替業務フロー、承認権限、連絡系統を整備しておくことが要る。
第二に、アクセス管理と監査性を強化する。最小権限、MFA、運用アカウントのログ取得を徹底し、プロンプトと出力を改ざん防止とともに保全する。第三に、AI連携基盤の脆弱性・設定レビューを継続し、モデルのポリシー変更時にシステム全体のリスク評価を更新する。
インシデントではなくても必要な訓練
今回のような「政策・規制による停止」は、従来の侵害対応とは異なるが、業務影響は同等に深刻になり得る。AI停止や機能制限を想定し、封じ込めではなく業務継続と説明責任を中心に机上演習を行うべきである。ベンダー依存度、代替可否、ログ提示可否を事前に検証しておくことが、監査・取引先対応の実務に直結する。