App Store、AI「脱がせアプリ」を締め出し

何が起きたか

AppleはApp Storeの審査ガイドラインを改定し、利用者が作成・共有するコンテンツの課題として「同意のない性的画像」を明記しました。新設の2.5.19項では、審査時に隠し、承認後に有効にするような未公開・休眠機能を禁じ、違反すればアプリ削除や開発者アカウントの停止につながるとしています。

なぜ大事か

画像生成AIで実在の人物の裸の画像を作る「脱がせアプリ」が問題になるなか、審査をすり抜ける手口にも対応した形です。プラットフォーム側がAI悪用への規制を具体的なルールに落とし込んだ例といえます。

日本への影響

日本のApp Storeにも同じガイドラインが適用されるため、国内のアプリ開発者も画像生成機能の安全対策や隠し機能の有無を見直す必要があります。