共计 1263 个字符，预计需要花费 4 分钟才能阅读完成。
中层不会消失, 只是换成了 Agent
为防 AI 出内鬼, 微软让一部分 Agent 当监工。
📌 微软让 Agent 监督 Agent
微软近期宣布, 在安全系统 Project Perception 中加入 Guardian Agents。这批“监工”不直接完成任务, 而是检查其他 Agent 的行为: 发现异常后调查原因, 再按企业预设规则收紧权限、收回授权, 必要时隔离或停止 Agent。目前,Project Perception 仍处于面向少量受邀客户的预览阶段。
🔍 风险来自权限, 也来自“太能干”
企业让 Agent 干活, 通常要给它相应权限 。能查报销单据, 才可能帮忙审批; 能读写文件, 才可能整理资料。权限带来效率, 也放大了误操作和越权风险。一旦 Agent 误解任务, 或被文件、邮件中的恶意指令带偏, 就可能拿着公司授权做出危险操作。
微软的 Microsoft 365 Copilot 曾被研究人员演示: 把恶意指令藏进邮件 , 可诱导其在检索资料时泄露敏感信息。测试未造成已知客户泄密, 却说明“给 AI 看资料”和“让 AI 执行指令”之间需要边界。
- 权限过大:Agent 接触的数据和系统越多, 误操作影响越大。
- 中途失守: 前几个文件正常, 不代表后续输入未被污染。
- 人工跟不上: 安全人员还在核查警报,Agent 可能已连续执行多个动作。
💡 三道关卡: 身份、权限、行为
要让“监工”有效, 先得让每个执行任务的 Agent 有独立身份 , 明确它归谁负责、能访问什么、能做什么。权限只给当前任务所需, 任务结束后收回。这样既限制接触范围, 也方便事后追溯。
Agent 开始工作后, 系统还要持续观察行为 。发现异常时, 可以先收紧权限, 例如禁止修改文件但保留读取权限; 部分高风险操作要求人工批准; 必要时再隔离或停止 Agent。
更关键的是, 规则不能完全交给 AI 判断 。按微软 CEO 纳德拉此前的说法, 企业需要设置一套 AI 无法绕过或修改的权限规则。若某类资料按规定不得外发, 即使执行 Agent 和监督 Agent 都“同意”, 系统也应阻止。
终端侧, 微软扩大了 Defender for Endpoint 的识别范围 , 可发现 60 种本地运行的 AI Agent。但识别只是第一步, 能否拦截危险操作, 还取决于具体 Agent 与系统是否被支持, 以及企业是否开启拦截。Defender 提供“审计”和“阻止”模式, 微软建议先审计、排查误报, 再逐步切换。
📊 Agent 安全正在变成一门生意
盯上 Agent 安全的不只微软。CrowdStrike 推出 Falcon Guardian, 强调在 Agent 运行的电脑上追踪工具调用、阻止未经批准的 Agent;Palo Alto Networks 则把检查放到 Agent 调用企业工具的环节, 拦截恶意指令、遮蔽敏感数据。思路不同, 方向一致:Agent 想干活, 先过安全检查。
🚀 结语: 管理没有消失, 只是换了形态
回到“中层会不会消失”的话题, 更准确的说法或许是: 一部分协调、审核和监督职能 , 正在被写进身份体系、权限规则和 Agent 流程里。Agent 不会自动让管理消失, 它只是把管理变成了另一套需要持续维护的系统。
