共计 1131 个字符，预计需要花费 3 分钟才能阅读完成。
美国佛州一女子把 AI 当“日记本”用,Claude 识别到枪击威胁后上报给 Anthropic 人工审核并报警
导语: 把聊天机器人当成私人日记, 未必只有自己看得到 。美国佛罗里达州李县的一起案件, 给这句话补上了现实注脚。
📌 事件概览: 一句威胁触发安全机制
据当地警方通报, 邦尼塔斯普林斯 30 岁居民卡莉·米歇尔·赫勒于 9 月 26 日在与 Anthropic 旗下 Claude 的对话中 , 写下针对李县警长办公室实施枪击的内容。相关内容随即触发平台安全风控, 被上报至人工审核, 随后由人工团队联系执法部门。
警员接报后前往其住所, 将其“无冲突拘留”, 案件由李县警长办公室一名情报警探接手。据当地媒体 WINK News 报道, 警长卡迈恩·马尔切诺称, 赫勒后来表示自己把 AI 当作“日记”使用。目前她面临一项书面暴力威胁指控, 尚未被法院定罪。
🔍 从对话到报警, 平台走了哪几步
- 安全机制监测关键词与潜在威胁内容;
- 按严重程度将相关对话升级至人工审核;
- 人工确认后联系当地执法部门。
佛罗里达州法规第 836.10 条规定, 通过可被他人查看的书面或电子记录威胁杀人、实施身体伤害、大规模枪击或恐怖行为 , 可能构成二级重罪。法条明确适用于电子记录, 但本案中的 Claude 对话是否满足具体法律构成, 仍需由法院裁定。
💡 隐私边界:AI 对话不享有保密特权
Anthropic 公开的政府信息请求政策显示, 公司通常只在收到有效法律程序后才披露用户信息 ; 但如果认为存在可能导致迫在眉睫的人身伤害或死亡的紧急情况, 且及时提供信息有助于避免危险, 则存在紧急披露例外。
其 2026 年 7 月更新的透明度页面也提到, 安全团队负责设计并执行落实使用政策的检测与监控机制 , 并处理执法机构和政府提出的数据请求, 包括紧急披露。协议条款还提示, 与 AI 的对话并不享有类似律师与委托人之间的保密特权。
对用户而言, 这意味着“私人日记”的预期, 可能与平台的安全审核机制存在落差。
📊 行业观察:AI 该报还是不报
与此同时, 同类争议正在增多 。加拿大不列颠哥伦比亚省近期在美国旧金山联邦法院起诉 OpenAI 及其 CEO 萨姆·奥尔特曼, 指称 OpenAI 早前已标记 2 月塔姆勒岭校园枪击案枪手与 ChatGPT 的暴力相关对话, 却未向警方通报。佛罗里达州 6 月也已起诉 OpenAI 和奥尔特曼, 指称 ChatGPT 造成现实伤害, 其中涉及 2025 年佛罗里达州立大学枪击案。上述均为诉方指控, 法院尚未认定相关责任。
🚀 总结
这起案件的核心不在于“AI 会不会告密”, 而在于安全风控与用户隐私之间那条线由谁划、按什么标准划 。对普通用户来说较为稳妥的理解是: 聊天机器人不是日记本, 涉及暴力威胁的内容可能被检测、审核, 并在特定条件下进入执法流程。
