Appleは10月16日、AIで生成した画像を含め、本人の同意のない性的画像への対策をアプリの審査ガイドラインで明確にしたと発表した。実在する人物の服を脱がせたような画像を作る「脱衣」アプリは従来から禁止しているが、今回の改定では、一般のAI画像生成アプリやSNSなどにも、こうした画像の生成・公開を防ぎ、問題のある画像を削除するよう求めることを明記した。
「脱衣」アプリを巡っては、App Storeでの配信が問題視されてきた。2026年7月には、米サンフランシスコ市当局がAppleに対し、本人の同意のない性的画像を生成できるアプリ8本の削除を要求した。これらは表向きには顔の入れ替えなどを行うアプリとして提供されていたが、実際には性的な画像の生成にも利用できたという。
Appleは、裸体や露骨な性的画像を生成するアプリを従来からApp Storeで禁止している。今回の改定で明確にしたのは、こうした専用アプリだけでなく、利用者が画像などを生成・投稿・共有できる一般のアプリにも、本人の同意のない性的画像への対策を求める点だ。
改定後のガイドラインでは、開発者に対し、AI生成画像を含む本人の同意のない性的画像が作成・公開されるのを積極的に防ぎ、問題のある画像を削除するよう求めている。また、不適切なコンテンツを防ぐフィルターや通報機能、悪質な利用者をブロックする機能、問い合わせ先の公開なども義務付けている。
十分な防止策を講じなかったり、Appleから問題を通知されても改善しなかったりした場合は、アプリがApp Storeから削除される可能性がある。
審査後に「脱衣」機能を有効にする手口も禁止
Appleは、アプリの審査時には問題のない機能だけを見せ、承認後に「脱衣」などの禁止された機能を有効にする手口への対応も明確にした。
新設された条項「2.5.19」では、審査時に説明していない機能や、隠された機能をアプリに組み込むことを禁止した。こうした審査逃れは従来から禁止されていたが、今回の改定で規定を明確化した。違反した場合は、アプリがApp Storeから削除されるほか、開発者もApple Developer Programから排除される対象となる。
このほか、人身売買や児童の搾取を助長するアプリへの対応も明確にした。児童性的虐待の画像を含むアプリなどが見つかった場合は、App Storeから削除するとともに、別のアプリ配信経路からの提供も阻止する。
Appleによると、2025年には安全上の問題がある15万件超のアプリが利用者に届くのを防ぎ、不正や悪用に関与した19万3000件超の開発者アカウントを閉鎖した。これらはアプリ審査全般の実績で、今回の発表では「脱衣」アプリの具体的な削除件数などは明らかにしていない。
Amazonで現在開催中のセールを見る
Amazonのアソシエイトとして、CNET Japanは適格販売により収入を得ています