苹果更新App Store规则，要求开发者过滤AI生成的非自愿私密图像

Engadget 10月17日报道，苹果已更新App Store审核政策，矛头对准能把普通照片“脱衣”或变成色情内容的应用，用AI实现这类功能的应用也在其列。10月17日是Engadget的报道日期，并非苹果更新规则的日期。苹果此前已禁止色情内容，也禁止专门用来生成性图像的应用。这次的变化在于，开发者必须主动管控自己的应用。按新规则，含用户生成内容的应用要过滤非自愿私密图像，包括AI生成的图像；开发者还要阻止用户上传此类图片、删除漏过过滤的内容，并提供举报冒犯性内容和屏蔽恶意账号的功能。防护措施不到位，或接到通知后仍不整改的应用，可能被下架。若应用在审核时隐瞒真实用途、实际具备“脱衣”功能，苹果将下架该应用，并把开发者移出Apple Developer Program。

生成式AI大幅降低了伪造私密图像的门槛。过去的平台规则主要禁止专门生成性图像的应用，对含用户上传内容的通用应用约束有限。苹果把开发者的义务从不得提供此类功能扩展到主动防范，要求相关应用承担过滤、阻止上传、删除、举报和屏蔽责任。

含用户生成内容的应用需要补上内容过滤、举报和屏蔽机制，否则可能被下架。隐瞒用途的应用不仅会被下架，开发者还可能被移出Apple Developer Program，处罚范围从单个应用延伸到开发者账号。AI图像类应用的上架审核和持续合规成本也可能上升。