Meta、10代少女の画像を「裸体化」するAIアプリ広告をInstagramに放置-深刻なプラットフォーム責任問題が浮上
Ars Technica - All content
1. MetaのInstagram上で、実在する10代の少女の写真を無断でAIにより裸体化(ヌーディファイ)するアプリの広告が配信・放置されていたことが明らかになった。
2. Metaはこれらの違反広告の削除に著しく時間をかけており、プラットフォームとしての審査・対応体制の不備が問題視されている。
3. 「これが男性が実際に使うAIだ」という広告文句が使用されており、未成年者への性的搾取ツールが堂々と宣伝されていた実態が明るみに出た。
背景・経緯
近年、生成AIの普及により「ディープフェイクヌード」生成ツールが急増しており、実在する人物の画像を無断で性的なコンテンツに変換するサービスが問題となっている。特に未成年者を標的とするケースが世界各地で報告され、学校現場や法執行機関が対応に追われている。Metaは過去にも有害コンテンツへの対応の遅さを批判されてきており、今回はその広告審査システムの脆弱性が改めて露呈した形となった。
注目ポイント
・ 未成年者(10代の少女)を明示的に標的としたAIツールの広告がプラットフォームの審査をくぐり抜けていた点
・ Metaが違反を認識してからも迅速に対応せず「引き延ばした(dragged its feet)」とされる対応の遅さ
・ 広告コピーが男性ユーザーを明確にターゲットにしており、需要側の存在を可視化している点
・ 児童性的虐待素材(CSAM)に関連する法的リスクをMetaが負う可能性
今後の予測
米国議会や欧州規制当局(EU AI法・DSAの観点)からMetaへの調査・制裁圧力が高まることが予想される。また、被害を受けた未成年者やその保護者による集団訴訟に発展する可能性も否定できない。Meta側は広告審査AIの強化や人員増加を表明するとみられるが、実効性への懐疑的な見方は根強く続くだろう。
AIの解釈
このニュースの本質は、プラットフォーム企業の「収益優先構造」と「未成年者保護義務」の根本的な矛盾を示している点にある。広告収益モデルに依存するMetaにとって、審査の厳格化はビジネス上のコストであり、この利益相反が対応の遅延を生む構造的要因となっている。さらに、AIツールが「性的搾取のインフラ」として商業化・大衆化しつつある現実は、技術規制だけでなく、プラットフォームに法的共同責任を課す立法措置の必要性を強く示唆している。