日常アプリを装う400超のディープフェイク生成ネットワーク、WIREDが調査

ネットワークのアプリは、ダウンロード時にサーバーへ接続し、ユーザーの地域や言語、固有識別子などを送る。サーバーが返す応答に応じて、無害な画面か、アップロードした写真で性的な画像や動画を生成できるWebインターフェースかが切り替わる。AI Forensicsのコード解析では、Metaの広告をクリックしてダウンロードした場合が表示条件の一つとみられている。WebサイトのJavaScriptには、関連ドメインやアプリの一覧、暗号鍵、Facebook広告トラッカーなどが含まれていた。

アプリは2025年末ごろから現れ、今年春に急増した。Google Playでは9月に27本が公開され、合計35万回以上ダウンロードされた。多くは全年齢向けと評価されていた。DiffAIは10万回以上ダウンロードされ、ユーザーレビューは年齢確認がないと指摘していた。Googleはコメントしなかったが、取材前に大半を削除していた。

Appleは19本のアプリをApp Storeから削除した。審査時は規則に適合していたが、承認後に開発者が読み込み先のWebサイトを差し替えたと説明し、この手口で過去1年に数万本を停止したとしている。Metaは2025年にKeLing Technology Limitedの広告を禁止したと述べ、WIRED提供のドメインに関連して11,600の広告アカウントなどに措置を取り、209本のアプリの広告掲載を遮断したという。

KeLingへのメールに返信はなかったが、連絡後に関連SNSの名称変更や、メールアドレスと社名表記の削除が行われたとされる。Tech Transparency ProjectのKatie Paulは、収益の行き先や審査をすり抜ける方法について、各社が説明すべきだと述べている。