新たな報道によると、英国の児童委員は、児童のヌードや性的画像を作成するAIディープフェイクアプリの禁止を求めている。同紙は、こうした「ヌード」アプリがあまりにも普及したため、多くの少女がソーシャルメディアへの写真投稿をやめたと指摘している。CSAM画像の作成とアップロードは違法だが、ディープフェイクヌード写真を作成するために使用されるアプリは依然として合法である。
「子どもたちは、この技術が利用可能であること、ましてや実際に使用されていることさえ怖いと言っていました。見知らぬ人、クラスメート、友人でさえ、誰でもスマートフォンを使ってカスタマイズされたアプリを使ってヌード画像を作成できるのではないかと恐れていました」と、児童委員のレイチェル・デ・ソウザ氏は述べた。「これらのアプリが存在する明確な理由はありません。」
デ・ソウザ氏は、ヌードAIアプリは、主要な検索エンジンやアプリストアを含む主流のプラットフォームで広く入手可能であると指摘した。同時に、これらのツールは「少女や若い女性を不当にターゲットにしており、多くのツールは女性の身体にしか効果がないようだ」と彼女は付け加え、若者たちはこうしたツールの悪用に対する対策を求めている。
このため、デ・ソウザ氏は政府に対し、AIを用いてポルノディープフェイクを生成するアプリを全面的に禁止するよう求めた。また、政府に対し、GenAIアプリ開発者に対し、自社製品が子供に及ぼすリスクを特定し、インターネットからCSAM（性的虐待）を削除するための効果的なシステムを構築し、ディープフェイクによる性的虐待を女性や少女に対する暴力の一形態として認識する法的責任を課すよう求めた。
英国はすでにこうした技術を禁止する措置を講じており、ポルノディープフェイクの作成または共有に対する新たな刑事犯罪を導入している。さらに、同意なしに親密な写真や動画を撮影することも犯罪であると宣言した。しかし、ガーディアン紙が指摘するように、児童委員はこうした技術が若者にもたらす害に特に焦点を当て、ディープフェイクの過剰使用と自殺念慮や心的外傷後ストレス障害（PTSD）との関連性を指摘している。
「論争が起こる前から、それが何に使われるのか、そして良いものではないことは分かっていました。これは技術の驚異であり、悪用されることは既に分かっていました」と、児童委員の調査を受けた16歳の少女は語った。
米国の全国自殺予防ライフラインの電話番号は1-800-273-8255です。または、988に直接電話することもできます。クライシス・テキスト・ラインに連絡するには、「HOME」と入力して、741741（米国）、686868（カナダ）、または85258（英国）にテキストメッセージを送信してください。これらの国以外の緊急ホットラインの一覧は、Wikipediaに掲載されています。