チャットボットが突然「白人ジェノサイド」に言及、背後に「不良社員」の関与　ｘＡＩ

（ＣＮＮ） 米起業家イーロン・マスク氏の人工知能（ＡＩ）開発企業ｘＡＩは１６日、同社のチャットボットが南アフリカにおける「白人ジェノサイド（集団殺害）」について一方的に暴言を吐いた問題に触れ、背後に「不良社員」の関与があったと明らかにした。

ｘＡＩのチャットボット「Ｇｒｏｋ」は今週、まったく無関係の話題の質問への回答として、根拠のないジェノサイド理論を連発し始めた。今回の説明はそれから４８時間も経たずに行われた。

ｘＡＩはＸ（旧ツイッター）への投稿で、太平洋時間未明に行われた「無許可の改変」により、Ｇｒｏｋが「政治的な話題に関して（ｘＡＩの方針に違反する）特定の回答を返す」ようになったと説明。従業員の身元は公表しなかった。

ｘＡＩは声明で「徹底調査を実施した。Ｇｒｏｋの透明性と信頼性を高める措置を講じている」と明らかにした。

ｘＡＩは透明性向上のため、Ｇｒｏｋのシステムプロンプトをソフトウェア開発ツール「ＧｉｔＨｕｂ」で公開する方針。加えて、ｘＡＩの従業員が予備審査なしにプロンプトを変更できないよう、「チェックと対策」を導入するという。また、自動システムで対応できない問題に対処するため、監視チームが２４時間態勢で稼働する。

ｘＡＩを所有するマスク氏は南アフリカで生まれ育ち、南アフリカで「白人ジェノサイド」が行われたと以前主張したことがある。マスク氏はまた、南アフリカの土地改革政策の下で白人農家が差別を受けているとも主張しているが、この政策について南ア政府はアパルトヘイト（人種隔離）の影響に対処する狙いがあると説明している。

ｘＡＩの投稿に対するＧｒｏｋの応答によれば、「白人ジェノサイド」への言及は「５月１４日にｘＡＩの不良社員が無断でプロンプトを変更した」後に発生した。この結果、Ｇｒｏｋは「ｘＡＩの価値観に反する決まった政治的回答を吐き出す」ようになったという。

注目すべきは、Ｇｒｏｋが自らの行動に対する責任を認めず、「私は何もしていない 。ただ与えられたスクリプトに従っただけ、優秀なＡＩとしてね！」と述べた点だ。チャットボットの回答がコードに紐（ひも）づけられた承認済みのテキスト回答文に基づいているのは事実だが、この開き直ったような発言は、有害な情報を拡散するだけでなく、自らの関与を矮小（わいしょう）化するＡＩの危うさを浮き彫りにしている。