OpenAI推出Lockdown Mode:为ChatGPT敏感数据场景加一道防线

131次阅读
没有评论

共计 1205 个字符,预计需要花费 4 分钟才能阅读完成。

进展时间线

OpenAI unveils Lockdown Mode to protect sensitive data from prompt injection attacks

OpenAI 正在为 ChatGPT 加入更严格的安全开关。 6 月 6 日,OpenAI 宣布推出 Lockdown Mode, 重点应对网页、文件等内容中可能隐藏恶意指令的“提示注入”风险, 目标是在敏感数据场景下减少信息被意外带出的可能。

📌 从开放能力到受限模式: 安全策略出现新变化

过去,ChatGPT 的价值很大程度来自与外部信息源和工具能力的结合,例如实时浏览网页、读取网络图片、执行更深入的研究任务, 或通过代理模式完成复杂操作。但这些能力越开放, 模型接触到不可信内容的机会也越多。

Lockdown Mode 的出现 , 体现了一个明显的前后变化: 在普通使用场景中, 系统尽量提供更完整的工具能力; 而在敏感数据场景中,OpenAI 选择主动收紧部分功能, 优先降低数据外泄风险。

🔍 核心调整: 关闭多项高风险外部交互能力

  • 禁用实时网页浏览:用户只能访问缓存内容, 减少直接接触最新网页中隐藏指令的机会。
  • 禁用网络图片检索与展示:系统不再从网页抓取和显示图片, 但仍可生成图片。
  • 关闭 Deep Research:限制更复杂的信息搜集流程, 降低跨来源内容带来的风险。
  • 关闭 Agent Mode:减少模型代用户执行多步骤任务时被恶意内容影响的可能。

💡 提示注入为何值得警惕

提示注入通常指攻击者把恶意指令隐藏在网页、文档或其他内容中。当 AI 系统读取这些内容时, 可能被诱导改变回答方式, 甚至在特定条件下泄露不该输出的信息。

📊 适用人群: 并非面向所有用户

OpenAI 明确表示,Lockdown Mode 并不是为所有人准备的功能。它更适合经常处理敏感数据的个人、团队或组织, 例如需要在 AI 工具中分析内部文件、业务信息、客户资料或受监管数据的场景。

目前, 该功能正在向自助式 ChatGPT Business 账户, 以及符合条件的个人账户推出。对于普通用户来说, 关闭这些高级能力可能会带来体验下降; 但对安全要求更高的用户而言, 这种取舍可能更符合实际需求。

🚀 行业观察:AI 工具正在进入“分场景安全”阶段

随着 AI 助手逐步接入浏览、检索、文件处理和代理操作,安全问题不再只是模型本身是否可靠, 还包括它接触到的内容是否可信、执行的动作是否可控。Lockdown Mode 反映出 AI 产品正在从“统一体验”走向“按风险分层”。

  • 对企业用户来说, 安全模式有助于建立更可控的 AI 使用边界。
  • 对开发者和安全团队来说, 提示注入仍将是需要持续监测的问题。
  • 对普通用户来说, 未来 AI 功能可能会根据任务敏感度自动调整权限。

总体来看,Lockdown Mode 是 OpenAI 在敏感数据保护上的一次补强。它不能替代完整的安全治理, 也无法保证彻底免疫提示注入, 但为高风险使用场景提供了更谨慎的默认选择。

后续仍需结合新增披露持续校准判断。
本文基于公开信息整理, 如有侵权请联系删除。
正文完
 0