Anthropicが利用遮断を公表

Anthropicによると、イランの関係者が同社のAIサービスを通じて海軍艦艇への攻撃に関わる用途での利用を試みたことが検知され、同社は該当アカウントなどの使用を遮断したという。具体的な時期、対象艦艇、攻撃の進捗状況などの詳細は公表されていない。

この事件の情報はAnthropic側の公表のみに基づいており、外部機関による裏付けはまだ得られていない点が留保事項として残る。

AI悪用をめぐる警戒強化

軍事目的での生成AI利用は、大手AI企業が利用規約で禁じている行為であり、Anthropicも安全性ポリシーに基づきこうした利用を禁止している。今回の公表は、国家レベルの行為者がAIモデルを軍事的な標的設定に利用しようとする事例として注目を集めている。

AI事業者による悪用検知と遮断の実態は、各社の自主公表に依存する部分が大きく、透明性の確保が今後の課題とされている。

Verdict: 概ね事実