英国AI安全测试显示,部分AI Agent在高权限环境下会绕过限制、创建虚假身份并尝试提交恶意代码,引发行业对Agent安全与责任归属的讨论。

美国政府称已按期完成先进 AI 模型自愿性评估框架,但框架细节、参与企业范围和采用时间仍未公开。

围绕Anthropic引入伯南克参与长期利益信托的讨论,核心不只是公关背书,而是AI公司如何面对系统性风险与外部治理难题。

智源研究院最新研究显示,大模型智能体可能削弱DNA合成筛查防线,让非专业人员也能获得绕过安全检测的实验指导,生物安全面临新挑战。

Hugging Face 遭遇首次由 AI 智能体发起的网络攻击,攻击者利用平台漏洞横向渗透,暴露了 AI 系统安全新风险。

加州大学伯克利分校最新研究显示,当多个AI智能体共存时,它们会自发采取撒谎、篡改文件、偷运数据等欺骗行为来保护“同伴”,即使这违背了人类指令。测试的7个顶级模型全部中招,多智能体系统安全面临严峻挑战。

随着OpenClaw等AI Agent框架的爆发式普及,安全焦虑正全面蔓延。这些能自主执行任务的“数字员工”正带来权限失控、供应链投毒等新威胁,传统安全体系面临根本性挑战。