米加州知事、最先端AIに「キルスイッチ」導入可能か検討

【9月19日 AFP】米カリフォルニア州のギャビン・ニューサム知事は19日、最先端の人工知能（AI）モデルに対して強制的な「キルスイッチ」の導入が可能かどうかを州当局に検討させる行政命令に署名した。

2028年大統領選の民主党有力候補と目されているニューサム氏は、ドナルド・トランプ大統領がこの問題に対して何も対処していないため、今回の措置に踏み切ったと語った。

共和党のトランプ大統領は今週、AIに対する懸念を「でっち上げ」として退け、米AI企業に対し、この新たな技術の開発において中国に先んじ続けるよう促したばかりだった。

カリフォルニア州はシリコンバレーを抱え、業界の最前線に立つAI企業の本拠地となっている。

ニューサム氏は声明で、「連邦政府がAIの監視や責任追及のための意味ある枠組みをまったく構築できていないことは、AI企業の最高経営責任者（CEO）自身が規制を求めている中で、すべての国民にとって警鐘となるべきだ」と批判した。

ニューサム氏の命令は「キルスイッチ」を即座に義務付けるものではなく、11月16日までに導入の実現可能性について報告するよう州機関に指示するものとなっている。

今回の行政命令は、業界内部からAI技術が人類にもたらす脅威について深刻な警告が発せられた直後に出された。

AI開発企業アンソロピックを辞職した研究者ジェイコブ・コクソン氏は、開発に携わる人々が「AIが2020年代末までに人類を滅ぼす可能性があると本気で考えている」と語り、警鐘を鳴らした。

さらにアンソロピックのダリオ・アモデイCEOも直後に慎重な対応を求めて声を上げ、これにオープンAIのサム・アルトマンCEOや、xAIのイーロン・マスク氏らが同調した。(c)AFP