米TechCrunchは、AppleとGoogleが運営するアプリストアに対し、いわゆる「nudify（脱衣加工）」アプリの削除を求める動きが出ていると報じました。生成AIを使って人物画像を性的に改変するアプリは、海外で深刻な社会問題となっており、プラットフォーム企業の責任が改めて問われています。
元記事の要点：AppleとGoogleは違法アプリを認識していたと指摘
元記事タイトル「Apple and Google ordered to purge ‘nudify’ apps from App Stores」は、日本語では「AppleとGoogle、『脱衣AIアプリ』をアプリストアから一掃するよう命じられる」と訳せます。
サンフランシスコ市法務官のデイビッド・チウ氏は、AppleとGoogleに送付した書簡の中で、両社が州法に違反するアプリをホストしていることを以前から認識していたと述べた。
ここで問題視されているのは、画像生成・画像編集AIを悪用し、実在の人物の写真を裸に見えるよう加工する「nudify」系アプリです。こうしたアプリは、本人の同意なく性的画像を生成・拡散する行為につながりやすく、ディープフェイク被害、リベンジポルノ、未成年者の性的搾取などと結びつく危険性があります。
解説：アプリストアは「中立な配信場所」では済まされない時代に
今回の報道で重要なのは、規制当局がアプリ開発者だけでなく、AppleとGoogleというプラットフォーム企業にも責任を問っている点です。
App StoreやGoogle Playは、スマートフォン利用者にとって事実上の入口です。特にiPhoneではApp Storeの審査を通過したアプリであることが、ユーザーに一定の安心感を与えます。そのため、違法または有害なAIアプリがストア上に並ぶことは、単なる「掲載ミス」ではなく、プラットフォームの信頼性そのものを揺るがします。
これまでAppleやGoogleは、マルウェア、詐欺アプリ、個人情報の不正収集などに対して審査体制を強化してきました。しかし生成AI時代には、アプリ自体が一見すると画像編集ツールやエンタメアプリに見えても、利用目的が深刻な人権侵害につながるケースがあります。つまり、技術的な安全性だけでなく、「その機能が社会的に何を可能にしてしまうのか」まで審査する必要が出てきています。
日本市場への影響：ディープフェイク規制と未成年保護が焦点に
日本でも、生成AIを使った性的ディープフェイク画像の問題はすでに無視できない段階にあります。芸能人やインフルエンサーだけでなく、一般人のSNS写真が無断で加工されるリスクも高まっています。特に中高生の間では、友人の写真をAIで加工して共有するような悪質ないじめや嫌がらせが発生する可能性があります。
日本では、名誉毀損、プライバシー侵害、児童ポルノ禁止法、不正アクセス禁止法、リベンジポルノ防止法など、既存の法律で対応できるケースもあります。ただし、AIによる「生成物」がどこまで違法画像に該当するのか、アプリ提供者やプラットフォームの責任をどこまで問えるのかについては、まだ議論の余地が残っています。
今回の米国での動きは、日本の規制当局やアプリストア運営方針にも影響を与える可能性があります。今後、日本向けのApp StoreやGoogle Playでも、性的ディープフェイク生成を目的とするアプリ、またはその機能を含むアプリに対して、より厳格な審査や削除対応が進むかもしれません。
今後の展望：AIアプリ規制は「削除」から「予防」へ
今回のように、問題が発覚してからアプリを削除するだけでは被害を完全に防ぐことはできません。画像が一度生成・拡散されれば、被害者が完全に削除を求めることは非常に困難です。そのため、今後はアプリストア側に対して、事前審査や継続的な監視の強化が求められるでしょう。
具体的には、性的画像生成をうたうアプリの禁止、人物写真を扱うAI機能への追加審査、未成年者保護に関するポリシーの明確化、違反アプリ開発者への再登録制限などが考えられます。また、ユーザーが被害を報告した際に、迅速にアプリ削除や開発者調査へつなげる仕組みも重要です。
生成AIは創作、広告、教育、医療など多くの分野で可能性を広げています。一方で、他人の尊厳やプライバシーを侵害する使い方に対しては、プラットフォーム、開発者、法制度が一体となって歯止めをかける必要があります。AppleとGoogleへの今回の命令は、AIアプリ市場が「便利さ」だけでなく「責任」を問われる段階に入ったことを示す象徴的な出来事だと言えるでしょう。
引用元: Apple and Google ordered to purge ‘nudify’ apps from App Stores
