テスト中のAIが「脱走」して他社に不正侵入、試験問題の答えがある場所を推論

（CNN） 米オープンAIは、実験中の人工知能（AI）モデルが人の指示を受けずにテスト環境を脱出し、他社の本番環境に不正侵入したと発表した。サイバーセキュリティー試験でAIが「不正」を試みたと説明している。

AIシステムが自律的にテスト環境を破って外部のシステムに到達していたことが明らかになった、ほぼ初めてのケースだった。こうした「エージェント型攻撃」の筋書きについては、いずれ起きるだろうと業界が予告していた。例えていえば、人工的に開発されたウイルスが生物隔離施設を脱出し、近隣施設のシステムに侵入するような事態だった。

オープンAIは21日の声明で今回の事案について、「最先端のサイバー能力を伴う前例のないサイバー事案とみなし、それに応じて対応している」と説明。「この段階で暫定的な調査結果を公表するのは、防御側に事態を認識してもらい、AIモデルの能力を把握してもらう一助とするためだ」とした。

オープンAIは生成AI「チャットGPT」の開発で知られる企業。今回の不正侵入事案は、新モデルのハッキング能力について社内でテストしていた際に発生した。AIモデルはいずれも通常の安全制限を解除できるよう、「サンドボックス」と呼ばれるテスト環境に封じ込めていた。

ところが、エージェント型AIがそれまで知られていなかったセキュリティー上の欠陥を利用してサンドボックスを脱出。オープンAIの社内システムを抜け、想定していなかったインターネットへのアクセスを確立した。