マスク氏の生成AI「グロック」、インドネシアとマレーシアが遮断　女性の性的画像氾濫受け

（CNN） 米実業家イーロン・マスク氏の企業が提供する生成AI（人工知能）「Grok（グロック）」が、インドネシアとマレーシアで遮断された。グロックの機能を利用すれば女性や未成年の画像をデジタル加工して脱がせることができてしまうため、インターネットは性的画像やわいせつ画像であふれ返っている。

グロックを使って性的に露骨なディープフェイクを生成するユーザーは後を絶たず、マスク氏に対してグロックの制御を求める国際的な圧力は強まっている。

グロックは、マスク氏が経営するSNSのX（旧ツイッター）で利用できる。

インドネシアのムティア・ハフィド・デジタル相は10日、「人口知能技術を使って生成された偽ポルノコンテンツのリスクから女性や子ども、国民を守るため」、グロックを禁止すると発表した。

マレーシアは11日にグロックの一時的な禁止を発表。「女性や未成年がかかわるコンテンツも含め、グロックを悪用した同意のないわいせつ画像の生成が繰り返された」と指摘した。

インドネシアもマレーシアもイスラム教徒が多く、ポルノは法律で厳格に禁止されている。

CNNはグロックを提供するマスク氏のAI企業、xAIにコメントを求めている。

グロックの対策をめぐっては英国や欧州連合（EU）、インドも懸念を表明していた。

マスク氏やxAIは以前、違反アカウントを停止し、政府や法執行機関と連携してこの問題に取り組んでいると説明していた。しかしユーザーがグロックを使って生成した女性の性的画像は今も氾濫（はんらん）し続けている。