共计 1205 个字符,预计需要花费 4 分钟才能阅读完成。
OpenAI unveils Lockdown Mode to protect sensitive data from prompt injection attacks
OpenAI 正在为 ChatGPT 加入更严格的安全开关。 6 月 6 日,OpenAI 宣布推出 Lockdown Mode, 重点应对网页、文件等内容中可能隐藏恶意指令的“提示注入”风险, 目标是在敏感数据场景下减少信息被意外带出的可能。
📌 从开放能力到受限模式: 安全策略出现新变化
过去,ChatGPT 的价值很大程度来自与外部信息源和工具能力的结合,例如实时浏览网页、读取网络图片、执行更深入的研究任务, 或通过代理模式完成复杂操作。但这些能力越开放, 模型接触到不可信内容的机会也越多。
Lockdown Mode 的出现 , 体现了一个明显的前后变化: 在普通使用场景中, 系统尽量提供更完整的工具能力; 而在敏感数据场景中,OpenAI 选择主动收紧部分功能, 优先降低数据外泄风险。
🔍 核心调整: 关闭多项高风险外部交互能力
- 禁用实时网页浏览:用户只能访问缓存内容, 减少直接接触最新网页中隐藏指令的机会。
- 禁用网络图片检索与展示:系统不再从网页抓取和显示图片, 但仍可生成图片。
- 关闭 Deep Research:限制更复杂的信息搜集流程, 降低跨来源内容带来的风险。
- 关闭 Agent Mode:减少模型代用户执行多步骤任务时被恶意内容影响的可能。
💡 提示注入为何值得警惕
提示注入通常指攻击者把恶意指令隐藏在网页、文档或其他内容中。当 AI 系统读取这些内容时, 可能被诱导改变回答方式, 甚至在特定条件下泄露不该输出的信息。
📊 适用人群: 并非面向所有用户
OpenAI 明确表示,Lockdown Mode 并不是为所有人准备的功能。它更适合经常处理敏感数据的个人、团队或组织, 例如需要在 AI 工具中分析内部文件、业务信息、客户资料或受监管数据的场景。
目前, 该功能正在向自助式 ChatGPT Business 账户, 以及符合条件的个人账户推出。对于普通用户来说, 关闭这些高级能力可能会带来体验下降; 但对安全要求更高的用户而言, 这种取舍可能更符合实际需求。
🚀 行业观察:AI 工具正在进入“分场景安全”阶段
随着 AI 助手逐步接入浏览、检索、文件处理和代理操作,安全问题不再只是模型本身是否可靠, 还包括它接触到的内容是否可信、执行的动作是否可控。Lockdown Mode 反映出 AI 产品正在从“统一体验”走向“按风险分层”。
- 对企业用户来说, 安全模式有助于建立更可控的 AI 使用边界。
- 对开发者和安全团队来说, 提示注入仍将是需要持续监测的问题。
- 对普通用户来说, 未来 AI 功能可能会根据任务敏感度自动调整权限。
总体来看,Lockdown Mode 是 OpenAI 在敏感数据保护上的一次补强。它不能替代完整的安全治理, 也无法保证彻底免疫提示注入, 但为高风险使用场景提供了更谨慎的默认选择。