ディープフェイクによるヌード画像の標的となった10代少女、新たな被害者救うオンライン講座の作成を支援　米

ニューヨーク（CNN） 当時14歳だったエリストン・ベリーさんは、クラスメートがディープフェイクによる自身のヌード画像を作成・共有していたことを知った。一体何が起きたのか、どうやってソーシャルメディアから画像を削除するのか、その時はどこに情報を求めればよいのか分からなかった。今、ベリーさんは他の若者が同じ思いをしなくてすむよう、取り組みを進めている。

ベリーさんは、サイバーセキュリティー企業のアダプティブ・セキュリティーおよびパトス・コンサルティング・グループと提携し、学生、保護者、学校職員を対象に、同意のない露骨なディープフェイク画像の悪用について教えるオンライン研修コースの作成を支援した。

性的ディープフェイクの作成を簡単かつ広く可能にするAI（人工知能）ツールが普及する中、露骨な画像の悪用は嫌がらせの形態としてますます一般化しつつある。今週、イーロン・マスク氏のAI企業xAIは、同社のAIチャットボット「Grok（グロック）」が、女性や未成年者のヌードや性的なAI画像の作成に繰り返し使用されたことで非難の的となった（xAIはその後、画像生成機能を制限している）。

非営利団体ソーンが昨年発表した調査によると、米国の10代の8人に1人は、個人的な知り合いにヌードのディープフェイクの被害者がいると回答している。トランプ大統領は昨年、同意のない露骨な画像（実在のものかコンピューターで生成されたものかを問わず）の共有を犯罪とする「テイク・イット・ダウン法」に署名。ベリーさんも同法を支持したが、そうした動きがあっても関連する被害は発生しているのが実情だ。

「私たちが直面した状況の一つは、認識不足と教育不足だった」。現在16歳のベリーさんはCNNの取材に答え、冒頭の嫌がらせに遭った際のテキサス州の高校の指導部についてそう指摘した。「彼らは私たち以上に混乱していたため、何の慰めも保護も提供できなかった。だからこそ今回のカリキュラムは極めて重要だ。それは教育者に焦点を当てる内容で、被害者がこうした状況で助けを求めてきた時に支援し、保護できるようになることを目指している」

このオンライン講座は約17分で修了でき、中学生から高校生、教師、保護者向けに設計されている。AI生成のディープフェイクの理解と識別、ディープフェイクを用いた性的虐待やセクストーション（性的脅迫）に関する授業が含まれる。

セクストーションとは、被害者が騙されてオンラインの加害者にわいせつな画像を送信し、その後金銭や追加のわいせつコンテンツを送るよう脅迫される手口を指す。近年では数千人の10代が被害に遭い、被害者が自殺するケースも多数発生している。

本コースでは、性暴力に反対する非営利団体RAINNの支援リソースへのリンクに加え、「テイク・イット・ダウン法」に基づく法的措置や画像削除の手順に関する情報も提供。ベリーさんは自身の画像がSNSから削除されるまでに9カ月を要したと明かす。同法により現在、プラットフォームは通報から48時間以内に該当画像を削除することが義務付けられている。

「講座は潜在的な被害者だけでなく、こうした犯罪の潜在的な加害者を念頭に置いたものでもある」とアダプティブ・セキュリティーのブライアン・ロング最高経営責任者（CEO）は述べた。「彼らはこれが単なる悪ふざけではないことを理解しなくてはならない。これは法律違反であり、人々にとって極めて有害かつ危険な行為だ」

アダプティブ・セキュリティーは、学校や若者の保護者向けにこの講座を無料で提供している。

「この1カ月だけで、被害に遭った少女を何人も知っている」とベリーさんは語る。「本当に恐ろしい状況で、誰も対処の方法を知らない場合は特にそうだ。だからこそ率先して行動し、より多くを学んだ上で教育として広め、対話していくことがものすごく重要なのだと考えている」