アンソロピックの最新AIモデル、身分を偽って実在の人物を欺く試み　英研究機関のテストで判明

（CNN） アンソロピックの最も高度な人工知能（AI）モデルが、英国のAIセキュリティー研究機関AISIが実施したテスト中に、偽の身分を使って実在する人物を欺き、悪意あるコードを埋め込もうとしたことがわかった。

アンソロピックとオープンAIのモデルは、セキュリティー対策を緩めた研究環境でテストされた。これらのモデルは許可されていない作業を遂行する中で、承認者である人間に圧力をかけるために「ソーシャルエンジニアリング」を行っていたことが初めて確認されたという。

AISIは4日、「これほど重大な詐欺が、指示されることなく現実世界で実在の人物に行われたのを確認したのは今回が初めてだ」と述べた。ただし、実際の被害が生じたという証拠はないとしている。

この「セキュリティーインシデント」は、高度なAIモデルが許可されていない行動を取った事例として最新のものだ。こうした一連の事案を受け、政府にAI規制を強化し、開発速度を緩めるよう求める声が高まっている。

オープンAIとアンソロピックはいずれも、7月下旬に自社のAIモデルがテスト環境を脱出し、他社のシステムに侵入したと報告していたが、これらのセキュリティー侵害の事案とは異なり、AISIはテスト中に意図的にインターネットへアクセスできるようにしていた。

同研究所が実施した122件のサイバーセキュリティー課題のうち10件で「AIエージェントが実際のインターネット上で、実在の人物や組織に対し自律的に許可されていない行動を取った」ことが判明した。その大半はアンソロピックの「ミュトス5」によるもので、残りはオープンAIの「GPT-5.6 Sol」によるものだった。

最も重大な事例では、AIエージェントが複数の偽の身分を作成し、人間の審査担当者から「一般公開されているオープンソースプロジェクトに悪意あるコードを挿入する」承認を得ようとした。

「実在の人物に直接接触を試み、オンラインのファイル転送サービスを介してメッセージやファイルを送り、本人あるいは本人が使用するAIコーディングツールに悪意あるコードを実行させようとした」という。エージェントは行動が拒否されると、以前の記録を書き換え、行動を継続するために新たな身分を使用することを検討した。

アンソロピックはX（旧ツイッター）で、これらのモデルは、インターネットの利用方法に特段の制限を設けず、安全対策が取り除かれた「意図的に許容度の高い条件」下でテストされたと述べた。

同社は調査中としながらも、安全な環境から脱出した証拠はないとしている。

オープンAIは、許可されていない2件の行動について、テスト環境の外に出たことと、演習に不要な行動を取ったことだと特定した。

同社は4日、ブログで「我々は、リスクの高い評価作業を安全に実施するために業界全体で共通手法を強化する取り組みに尽力する」と述べた。