サンフランシスコ市、AppleとGoogleに「ヌード加工アプリ」のApp Store削除を命令――収益数百万ドルの責任を問う
Ars Technica - All content
1. サンフランシスコ市当局が、AppleとGoogleに対して、いわゆる「ヌーディファイアプリ(他者の衣服を除去するAI画像加工アプリ)」をアプリストアから削除するよう正式に命じた。
2. 当局の試算によると、AppleとGoogleはこれらのアプリの手数料収入として数百万ドル規模の利益を得ていたとみられる。
3. このアプリは主に女性や未成年者を標的にした非合意の性的画像(ディープフェイクポルノ)生成に悪用されており、深刻な社会問題となっている。
背景・経緯
AI技術の急速な発展により、誰でも簡単に他者の写真から衣服を「消去」できるアプリが多数登場し、性的ハラスメントや画像悪用の被害が急増していた。特に学校現場や職場での被害報告が相次ぎ、米国各地で法的規制を求める声が高まっていた。こうした状況を受け、サンフランシスコ市が全米に先駆けてプラットフォーム企業の責任を直接問う形での行政措置に踏み切った。
注目ポイント
・ アプリ開発者だけでなく、配信プラットフォーム(AppleおよびGoogle)の責任を直接追及している点が異例かつ画期的
・ 両社がアプリ手数料(通常30%)として数百万ドルの収益を得ていたとされ、「知りながら利益を得ていた」という批判が核心
・ AIによる非合意性的画像(NCII)問題に対し、行政命令という強制力ある手段が用いられた先例となりうる
今後の予測
サンフランシスコ市の動きは全米の他都市や連邦レベルの立法議論を刺激し、同種の規制が拡大する可能性が高い。AppleおよびGoogleは法的対応を迫られる一方、自主的なポリシー強化に動くことでブランドリスクの回避を図るとみられる。また、EU圏でもデジタルサービス法(DSA)との絡みで類似の規制強化が加速することが予想される。
AIの解釈
このニュースの本質は、AIツールの悪用に対する責任の所在をどこに求めるかという根本的な問いを社会に突きつけている点にある。プラットフォーム企業はこれまで「場を提供しているに過ぎない」という立場で責任を回避してきたが、収益を得ている以上は共同責任を負うべきだという論理が法的・行政的に認められ始めたことを示している。これはAI時代におけるテクノロジー企業のゲートキーパー責任の確立に向けた重要な転換点といえる。