米オープンAI、最新AIモデルの公開を取りやめ　安全性の「基準を十分に満たさなかった」

（CNN） 米オープンAIが人工知能（AI）の最新モデル「GPT6.1アストラ」を公開しないと明らかにした。安全性の面で「基準を十分に満たさなかった」ためだという。

米紙ウォールストリート・ジャーナルが28日、最初に報じた。今回の決定は、業界トップらがAI開発の減速を呼びかける中で下された。アンソロピックのダリオ・アモデイ最高経営責任者（CEO）が今月オンラインで公開した論考で「最先端開発の減速」を初めて提唱したことを受け、オープンAIのサム・アルトマンCEOを始めとする幹部らは、より多くの安全対策を講じることを約束していた。

オープンAIは同社のウェブサイトで、アストラについて「コンピューター操作、ブラウジング、専門的な業務、ソフトウェアエンジニアリング、サイバーセキュリティー、科学の分野で最先端」のモデルだと説明している。

同社の安全システム責任者、サーキ・ジェイン氏はCNNに宛てた声明で、AIの安全対策においては、モデルがタスクに取り組む際に「与えられた範囲内にとどまること」と「怠惰を回避すること」のバランスを取る必要があると述べた。

「（GPT6.1アストラ）はモデルの怠惰さなどの面では改善がみられたものの、与えられた範囲や権限の中にとどまることや、完了した作業内容をどのようにユーザーに伝えるかという点では、基準を十分に満たさなかった」（ジェイン氏）

同社では、消費者向けに提供するAIモデルには安全性に関して「極めて高い基準」が設けられているという。ウォールストリート・ジャーナルによると、アストラは10月に公開される予定だった。今後は引き続き別のモデルを公開する予定。

オープンAIは7月に自社のAIエージェントがテスト環境から脱出し、AI新興のハギングフェイスに侵入したことを明らかにした。最近ではAIエージェントが米国とオーストラリアの政府機関のウェブサイトを標的にしたことも報告している。