AIを情報活動に活用

報じられたところによると、イランとつながりのある組織がClaudeに対し、標的となる人物や組織に関する資料の作成を依頼していたという。大規模言語モデル(LLM)が、従来人手で行われてきた標的調査や資料整備の作業を担う形で悪用された可能性がある。

Anthropicはこれまでにも、自社モデルが脅威アクターに利用された事例を脅威レポートで公表してきた経緯がある。今回の事例をめぐっては、関係する組織の詳細や標的の数、活動の時期などについては明らかになっていない部分が多く、未確認の情報が含まれている可能性には留意が必要だ。

生成AI悪用への警戒強まる

外国勢力や関連組織が生成AIを情報収集・資料作成に利用する事例は、AI提供各社にとって深刻な課題となっている。技術の普及が進む一方で、悪用防止の監視体制をどう強化するかが問われる局面にある。

イラン関連組織がClaudeに標的資料の作成を委託していたとの今回の情報は、提供元などの細部が未確認であるものの、複数の情報から裏付けが取れているとして、結論づければ Verdict: 概ね事実 となる。