AIリスクめぐる「滅亡論」に警鐘、国連の有識者パネル

【9月22日 AFP】国連（UN）の人工知能（AI）に関する有識者委員会の専門家らは21日、AIのリスクをめぐり同分野の専門家の一部が用いる「終末論的」な表現に対して警鐘を鳴らした。

独立機関「AIに関する独立国際科学パネル」のメンバーで、グーグル・ディープマインドの幹部であるジョエル・バラル氏は、「科学者として、何が分かっていて何が分かっていないのかを真に理解するために科学へ投資することが極めて重要であり、恐怖心に投資することはそれほど役立たない」と語った。

バラル氏は、AIの潜在的危険性に関する最近相次いだ懸念、特にジェイコブ・コクソン氏の発言についてAFPから質問を受け、このように回答した。

オープンAIからアンソロピックに移籍し、その後にAI業界を離れた研究者のジェイコブ・コクソン氏（27）は今月、この技術が「今世紀末までに人類全員を死に至らしめる可能性がある」との考えが開発者らの間にはあると述べていた。

また、7月にグーグル・ディープマインドを退職したリサーチエンジニアも同様のコメントを寄せており、AIによる人類の滅絶を回避するにはすでに「遅すぎる」かもしれないとの見方を示していた。

国連総会に合わせて米ニューヨークで開催されたイベントで、ノーベル平和賞受賞者の調査報道記者マリア・レッサ氏は21日、AIのリスクに関する議論のあり方を見直すよう訴えた。同氏は「これまで極端な『人類滅亡・殺人ロボット到来』説か、あるいは『大した問題ではない』とする説の二者択一ばかりだった。リスクへの言及の仕方を変えなければならない」と指摘した。

さらに「実態はもっと複雑で、多角的な視点が必要な問題だ」と指摘し、「AIリスクを思想的な対立にすり替えてはならない」と訴えた。

AIに関する独立国際科学パネルは2025年に設立され、2026年2月にメンバーが選出された。その使命は、AIに関する科学的理解を深め、国連での協議に情報を提供することにある。

AIの先駆者の一人で同パネル共同議長のヨシュア・ベンジオ氏は、AIリスクにおいて科学的根拠がある「事実」と、そこから「推測されるシナリオ」を明確に区別すべきだと強調。推測の領域については、専門家の間でも見解が分かれていると指摘した。

また「大声を張り上げることの問題は、相手も同じように大声で言い返すだけになる点だ」と指摘。真に必要なのは「リスクの深刻さや不確実な点も含め、現状を世界全体で冷静かつ合理的に議論することだ」と語った。(c)AFP