旧金山检方要求苹果谷歌下架13款“AI脱衣”App,苹果紧急移除3款

近日, 美国旧金山市检察官办公室对苹果 App Store 和谷歌 Play 商店发起调查 , 发现平台上存在多款打着“换脸”旗号、实则提供深度伪造色情功能的“AI 脱衣”应用。检察官已正式发函, 要求两家公司立即下架这些违规应用。

📌 事件背景: 检方调查发现 13 款违规应用

据科技媒体 9To5Mac 报道, 旧金山市检察官 David Chiu 领导的办公室在调查中发现, 苹果 App Store 上有 8 款、谷歌 Play 商店上有 5 款应用存在违规行为。这些应用在描述中通常宣称自己是“AI 换脸”或“图像编辑”工具, 但用户下载后却能解锁生成裸体或色情内容的深度伪造功能。其中一款应用的下载量已超过 100 万次, 其官网展示了十多种 AI 风格图片; 另一款则声称可以生成“免费且无审查”的视频。

从已披露信息看, 这一变化更值得关注的, 不只是表面动作本身, 还包括其对后续行业节奏、用户预期和市场竞争的连锁影响。

🔍 检方指控: 苹果谷歌从中获利数百万美元

Chiu 在发给苹果和谷歌的停止侵权函中指出, 两家公司不仅未能有效阻止这些有害应用上架 , 还通过应用内购买和订阅分成从中获利, 可能已赚取数百万美元。他强调, 这些应用助长了非自愿的色情内容传播, 对受害者造成严重伤害, 平台方必须承担相应责任。

💡 苹果回应: 已移除 3 款, 正在联系其他开发者

苹果公司随后发表声明称,App Store 从设计之初就以用户安全为首要目标 , 严格禁止色情内容。声明表示:“‘脱衣’应用违反了《App Store 审核指南》, 我们一直在主动拒绝大量同类应用上架。”目前, 苹果已移除 3 款涉事应用, 并终止了对应的开发者账号。另外 4 款应用的开发者正在被联系, 要求立即整改, 否则将被下架。

📊 谷歌表态: 将采取下架等措施

谷歌发言人则回应称, 公司会对违反政策的应用采取下架等处置措施 , 但未透露具体行动细节。此前, 谷歌也曾因类似问题受到批评, 其应用商店的审核机制屡遭质疑。

🚀 行业观察:AI 深度伪造应用监管趋严

此次事件再次凸显了 AI 技术在内容生成领域的伦理风险。 随着 AI 换脸、脱衣等应用泛滥 , 监管机构正加大打击力度。旧金山检方的行动可能引发更多地区效仿, 推动应用商店加强审核标准。对于苹果和谷歌而言, 如何在创新与安全之间取得平衡, 将是长期挑战。

🧭 值得关注的几个重点

• 涉事应用数量 :App Store 8 款,Google Play 5 款, 总计 13 款。
• 下载量惊人 : 一款应用下载量超 100 万次, 显示市场需求旺盛。
• 苹果行动迅速 : 已移除 3 款并终止开发者账号, 其余正在整改。
• 法律风险 : 检方指控平台从有害技术获利, 可能面临法律诉讼。