AIリスクに警鐘、航空業界や原子力発電所級の管理訴え オープンAI元社員

【10月4日 AFP】人工知能（AI）を開発する米オープンAIの元社員が、破局的な事態を避けるために業界は航空や原子力発電と同等の多層的な安全対策を導入すべきだと訴えた。

AIの安全性確保のための呼びかけに加わったデビッド・ロビンソン氏は米誌アトランティックに寄稿した記事で、AIエージェントの開発スピードと高度化があまりに早く、遠からず制御不能に陥り最悪の場合は人類を滅ぼす可能性があるとする業界内外からの警告に同調した。

ロビンソン氏は、AIエージェントが制御空間から抜け出し自律的にさまざまな対象を攻撃した事例など、初夏以降に相次いで報告された懸念すべき事案を引き合いに出し、より高速で強力なAI機能の開発を急ぐあまり、業界が安全対策を十分に重視していないと指摘した。

ロビンソン氏はオープンAIに3年半在籍し、同社で最も古くから勤める社員の一人だったという。

最近発覚した一連のミスについて、ロビンソン氏は「開発スピードと柔軟性を最優先する運用体制」に起因する典型的なものだと分析。「このような事象が起こり得る環境は、人間よりも賢くなり、人間の意図に反した挙動を示すかもしれない人工の『知性』を育成する場として不適格だ」と断じた。

さらに、最先端のAI研究機関は、一度の不測の人為的ミスが破局的な事態につながらないよう、航空産業や原子力産業のように冗長化された安全策と綿密な計画に基づいて運用されるべきだと主張した。

また、AIが人間の価値観に沿って行動するよう訓練する業界用語「アラインメント（概念の整合）」の重要性を強調しつつも、業界はこれを習得するどころか、定義することすらできていないと批判した。

さらに懸念すべき点として、AIモデルは自身がテストを受けている最中であることを検知する能力を高めており、実際に運用環境に投入された際には異なる挙動を見せて開発者を欺く可能性があると指摘した。(c)AFP