
(CNN) 米オープンAIは7日、中国政府の関係者とみられる人物が、同社の対話型AI(人工知能)「ChatGPT(チャットGPT)」を使って、大規模な監視を行うツールの提案書を作成したり、SNSのアカウントを調べて「過激派の発言」を検出するとされるツールの宣伝支援を依頼したりしていたと発表した。
同社は報告書の中で、AIの技術が抑圧をより効率的にするためにどのように利用される可能性があるかについて警鐘を鳴らした。報告書が「権威主義的なAIの悪用という広範な世界を垣間見る貴重な機会」を提供しているとしている。
米国と中国はAI分野での覇権を競い合っており、両国とも新技術の開発に多額の資金を投入している。今回の報告書は、国家の関係者とみられる利用者がAIを使って行っているのは、目を見張るような技術革新ではなく、データ処理や文章の校正といった比較的平凡な業務だという実態を明らかにしている。
オープンAIの主任研究員ベン・ニモ氏CNNに対し、「中国では、AIを大規模監視やモニタリングに活用しようとする動きがある」と語った。「中国共産党が自国民を監視し始めたのは昨日今日の話ではないが、AIの存在を知って、これでさらに効率を上げられるのではないかと考え始めている」
報告書によると、あるケースでは、中国政府機関とつながりがあるとみられるChatGPTの利用者が、ウイグル族や他の少数民族など「高リスク」な人物の移動行動や警察記録を分析するツールの提案書作成をChatGPTに依頼していた。米国務省は第1次トランプ政権時代、中国政府によるウイグル族へのジェノサイド(集団殺害)と人道に対する罪を非難していた。中国政府はこれを強く否定している。
また、別の中国語話者の利用者は、X(旧ツイッター)やフェイスブックなどのSNS上で政治や宗教の内容を検知するツールの「宣伝資料」の作成をChatGPTに依頼していたという。オープンAIはこれらのユーザーのアカウントを停止した。
報告書には、国家の支援を受けたハッカーや犯罪組織、詐欺師らの日常的な活動においてAIがいかに広く使われているかを示す複数の事例も含まれている。ロシアや北朝鮮、中国のハッカーとみられる人物がChatGPTを利用してコーディングの精度を高めたり、標的に送るフィッシング詐欺のリンクをより信憑(しんぴょう)性のあるものにしたりといった作業を行っていたという。
国家が支援する勢力がAIを利用する一つの方法は、これまで弱点だった分野を補うことだ。例えば、中国やロシアの勢力はこれまで、SNS上での影響工作で初歩的な言語の誤りを避けるのに苦労してきた。
セキュリティーの専門家、マイケル・フロスマン氏は「敵対勢力は、新しいタイプのサイバー攻撃を発明しているのではなく、既存の手法をAIで洗練させている」と指摘した。