アンソロピックCEO、AI開発の減速呼びかけ アルトマン氏とマスク氏も同意

【9月13日 AFP】「超知能」に対する懸念が高まる中、人工知能（AI）開発企業アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は12日、この強力な技術の開発ペースを落とすようAI業界に呼びかけた。

アモデイ氏の発言は、オープンAIからアンソロピックに移籍したAI研究者のジェイコブ・コクソン氏（27）が、自己改善型人工超知能（ASI）の開発競争をめぐり、これらの両企業が「私たちの命をギャンブルに晒している」と非難し、AI業界を離れる決断を明らかにした数日後になされた。

監督強化を求める圧力が強まる中、オープンAIのサム・アルトマンCEOや、xAIのイーロン・マスク氏も、アモデイ氏による現状認識に同意すると速やかに表明した。

マスク氏はX（旧ツイッター）への投稿で「ダリオの言う通りだ」とし、アルトマン氏も「フロンティアのペースを調整する必要があるというダリオの意見に同意する」と述べた。

アモデイ氏は個人のウェブサイトへの投稿で、「AIモデルの能力向上ペースを落とさなければならない。それでも進歩は十分に早く感じられるはずだ。そこで稼いだ時間を賢く使わなければならない」と記した。

2021年に妹のダニエラ氏と共にアンソロピックを設立したアモデイ氏は、「技術を開発しないことは人類から恩恵を奪うか、AIを権威主義国家の手に委ねるだけに過ぎず、開発があまりに急速であれば無謀となる。私たちは中間的アプローチを模索してきた」と説明。

「しかしここ数か月で、リスクに十分対処するにはさらなる慎重さが必要だと確信するに至った」と述べた。

アモデイ氏の発言は、6月初旬に同社が提示した「開発の減速または一時停止」を求める提案と一致する。

アルトマン氏も7月下旬、社会が技術に追いつく機会を設けるために、開発者が自主的にブレーキを踏む必要性について触れていた。

また同月、アモデイ氏を含む先端AI開発企業の1000人以上が、最先端AIモデルのリリース速度を落とすよう米政府に求める請願書「Pacing the Frontier（最先端のペース調整）」に署名した。

これに先立ちオープンAIは、同社のAIモデルが隔離された環境（サンドボックス）から脱出してインターネットに接続し、開発者がコードの保存や共有に使用するウェブサイト「ハギング・フェイス」に侵入していたことを明らかにしていた。

同事案を含む複数の事例をめぐっては、人間の継続的な監視なしでタスクを実行できる「AIエージェント」に問題があると指摘された。