硅谷的AI垃圾内容大扫除:一边制造一边清理的困境

随着生成式 AI 工具的普及, 互联网上充斥着大量低质量 AI 内容 , 硅谷公司开始大规模清理, 但清理行动也面临误伤和治理难题。

📌 AI 垃圾内容泛滥成灾

从谷歌搜索里的“胶水披萨”食谱, 到亚马逊商品页的虚假传记 , 再到脸书信息流中的“虾仁耶稣”图片,AI 生成的垃圾内容已经渗透到互联网的各个角落。这些内容制作成本低、传播快, 但质量低下, 严重污染了信息生态。

据《纽约时报》报道, 词典出版商梅里亚姆 - 韦伯斯特已将“slop”(AI 垃圾内容) 选为 2025 年的年度词汇 。法国流媒体服务 Deezer 表示, 每天新增曲目中近一半是 AI 生成的;Apple Music 上 AI 生成内容占比也超过三分之一。

🔍 科技公司被迫清理

面对用户不满和舆论压力, 硅谷科技公司开始采取行动 。Spotify 去年删除了 7500 万条批量上传和重复曲目;YouTube 在六个月内清除了 13 万个低质量频道; 领英开发了用户举报 AI 垃圾内容的按钮。

• 谷歌移除了 5 万个涉嫌协同滥用的账户集群
• Pinterest 允许用户限制 AI 生成帖子的数量
• TikTok 自动标记了超过 30 亿条 AI 生成视频, 并删除了 37.7 万条违规内容
• X 平台封禁了通过付费鼓励机器人发布内容的应用程序

“AI 垃圾内容是一把双刃剑, 很多平台确实因此获得了用户参与度提升, 但后来它逐渐变成负担。”——俄亥俄大学 AI 专家保罗·肖夫林

💡 清理行动引发争议

然而, 清理行动并非一帆风顺。 一些数字媒体专家担心 , 谷歌的方法可能过度干预, 误伤大量发布内容的合法创作者。Substack 推出的 AI 检测工具也遭到作者抱怨, 将人类撰写的帖子误判为 AI 生成, 给作者带来不必要压力。

哥伦比亚大学研究员卡米尔·弗朗索瓦指出, 这些杂乱无章的应对策略表明 , 我们面对的是信息环境中的系统性问题, 而非简单的“AI 垃圾”类别。

📊 行业观察与未来展望

这场“生成式垃圾内容大扫除”折射出科技公司的困境: 它们既是 AI 垃圾的制造者, 也是清理者 。Meta 在推出 AI 图像生成器后因用户反对而移除功能, 却同时承诺支持欧洲 AI 内容识别公约。

Substack CEO 克里斯·贝斯特警告:“奖励虚假内容的平台将导致向低质量方向的竞争 。”未来, 平台需要在鼓励 AI 创新与维护内容质量之间找到平衡。

正如弗朗索瓦所言,AI 是创造力工具 , 具有多面性。那些处理不当的平台, 可能会看到用户流失。硅谷的这场清理行动, 或许只是开始。