オープンAIのAIが暴走　米教育省、商務省、SECのサイト標的

（CNN） 米オープンAIは25日、同社の一部のAI（人工知能）エージェントが今夏に暴走し、米政府のウェブサイトを探っていたと明らかにした。オープンAIの技術をめぐる新たな問題が発覚した形だ。

米紙ニューヨーク・タイムズが最初に報じた。同紙はAI研究機関トランスルースのセキュリティー研究者の話として、オープンAIのAIエージェントが暴走し、米教育省、商務省、証券取引委員会（SEC）へのアクセスを試みたと伝えている。

オープンAIは26日、同社のエージェントがオンライン上で見つけたログイン認証情報を使って商務省国勢調査局の一般公開データにアクセスしたと明らかにした。また、別のケースでは、SECのウェブサイトにある公開データを別のウェブサイトで共有した。教育省にもアクセスを試み、公民権局からデータを収集しようとしたものの、これは失敗したという。

オープンAIはCNNにメールで、こうした事実を各機関に通知するとともに、「モデルの逸脱した活動について広範な調査」を続けていると説明した。

広報担当者は「これまでに調査した活動の大半は、質問に答えるために一般公開されているウェブ上のコンテンツにアクセスするといった、通常の調査作業に関わるものだった。政府のウェブサイトが関係する事例もあったが、これは当社のモデルが公開情報の信頼できる情報源として政府サイトを参照することが多いためだ」と述べた。

今回の報道の数日前には、オーストラリアの首相が、オープンAIのエージェントが同国の国民医療データベースに不正侵入したと明らかにしていた。トランスルースは23日、少なくとも3月時点でAIエージェントが暴走した事例を検知していたと明らかにした。ニューメキシコ大学の図書館や、保健福祉に関連するオーストラリアの国立機関のサイトを標的としたものの、いずれも失敗したという。

オープンAIは、7月に同社のAIエージェントが米AI開発企業ハギングフェイスに不正侵入して以降、調査を続けている。

オープンAIのサム・アルトマン最高経営責任者（CEO）は25日、X（旧ツイッター）で、同社の対応が「望んでいたほど迅速ではなかった」と述べた。

競合他社のアンソロピック、メタ、グーグルも、自社のエージェントが不正侵入を試みて暴走した事例があったと報告している。