界面不是窗口:AI正在替我们决定先看见什么

2024 年 12 月, 部分 iPhone 用户在锁屏看到一条署名 BBC 的通知 , 称枪杀美国联合健康保险公司首席执行官的 Luigi Mangione 已开枪自尽。此事从未发生。写下这句话的是苹果 AI 通知摘要, 它把几条消息压缩成一句, 凭空添上结局, 却仍挂在 BBC 名下。

误传并不罕见, 罕见的是错误还获得了来源 。用户看到的不是一段 AI 的猜测, 而像一条 BBC 新闻: 机器写句子, 媒体机构替它长脸。BBC 随后交涉,2025 年 1 月苹果在 iOS 18.3 中暂时关闭新闻与娱乐类应用的通知摘要, 并让其他 AI 摘要以斜体显示, 加上提示与关闭入口。斜体代价不大, 却把被抹平的加工痕迹重新露了出来。

📌 界面握有三种容易忽略的权力

• 让什么出现: 屏幕与注意力都有限, 首页放什么、哪条被摘要、哪些风险被标红, 被推到眼前的东西开始参与现实, 未出现的则可能等于不存在。
• 让什么先出现: 顺序决定理解的起点。先看 AI 结论还是先自行判断, 会把人引向不同的找证据路径。
• 给事物什么名字:“低匹配度”“高风险”这类标签, 规定人用什么概念理解对象, 后来者往往只在标签之内解释它。

🔍 实验与搜索数据说明了什么

2026 年 2 月发表于《自然》的一项研究, 把 4965 名美国 X 平台活跃用户随机分组: 一组看算法推荐的“为你”信息流 , 一组按时间顺序浏览, 持续七周。算法组互动更多, 部分政治态度向更保守方向移动; 算法诱导出的新增关注, 在切回时间序后仍被保留。相比之下, 此前与 Meta 合作的大规模实验中, 没有 AI 介入的时间序信息流改变了内容暴露, 却没有明显改变政治态度。

💡 谁在设计这块地形

最深的一层权力, 是让上述权力本身隐没 。排序反复出现, 人便把它当作事物天然的轻重; 风险分数被反复使用, 人便把它当作对象自身的属性;AI 概括不留痕迹, 人便容易视其为事实。人不是被强迫相信界面, 只是忘了自己正通过界面。数字界面还会记录点击、停留与离开, 据此重排下一轮呈现, 界面由此从通道变成一块移动的地形。

📊 让中介显形, 而非制造障碍

低风险、重复性事务理应流畅, 但流畅不该是唯一标准 。当 AI 替人概括事实、排列对象、提出建议时, 界面应让人分清原始材料与机器推断, 标明来源与不确定性, 在关键处允许返回较低的加工层, 并保留关闭、绕过和寻找其他意见的通道。苹果后来增加斜体与提示, 无法解决生成错误, 却承认了界面有义务让中介显形。

🚀 总结

围绕“界面不是窗口”，这一部分可从背景、现状与影响三个角度理解其关键信息。结合已公开内容来看，核心结论是趋势已较为明确，但细节仍需结合后续进展持续观察。