中国やイランがAI使用しスパイ活動、米アンソロピックが被害特定し遮断

【9月11日 AFP】人工知能（AI）開発の米新興企業アンソロピックは10日、同社の対話型AI「クロード」が悪用された国家主導の監視活動を複数特定し、サービス提供を停止したと発表した。政府や政府と連携する勢力が、少数民族や反体制派に対するスパイ活動にAIを利用するケースが増加していると警告している。

アンソロピックが発表した安全対策に関する報告書によると、これらの事例は今年1月から7月にかけて発見・阻止されたもので、中国、イラン、西アフリカを起点としていた。

監視活動は「香港の民主派活動家、アジア全域のチベット人や法輪功コミュニティー、国外に暮らすイランの少数民族や政権反対派など、各政権が歴史的に標的としてきたコミュニティーを狙ったものだった」という。

あるケースでは、イランの関係者がソーシャルメディアアカウントを通じて人々を特定する方法を開発し、別のケースでは、マリの国家安全保障当局のために働く契約者が、情報収集を可能にする基盤ソフトウェアを設計するために「クロード」を使用した。

また同社は、武器の設計や疑わしい生物学的研究、ロマンス詐欺の作成といった試みもブロックしたと明かした。

さらにアンソロピックは、中国のAI開発企業が「クロード」を不正利用し、自社モデルの性能向上に利用する「蒸留（ディスティレーション）」と呼ばれる手法を行っていたと非難した。

蒸留とは、既存の高性能AIモデルが出力したデータを用いて別のAIモデルを訓練・学習させるプロセスを指す。

米国の有力AIラボの資源を無断で流用する行為として批判が高まる中、アンソロピックは中国のAI企業ディープシーク（DeepSeek）やムーンショットAI（Moonshot AI）が自社ユーザーへの回答生成に「クロード」を不正利用していたと主張している。

報告書によると、ムーンショットは10日間にわたり、シンガポールや日本などに拠点を置くように偽装した5380の不正アカウントを用い、約30万件の顧客リクエストをクロードに中継していた。一部データには利用者の個人情報が含まれており、プライバシー違反の可能性もあるという。ディープシークも同様の手法を用いていたとされる。(c)AFP