共计 1088 个字符，预计需要花费 3 分钟才能阅读完成。
当大模型从聊天机器人进化为能调用工具、规划任务的智能体,其能力边界正在向物理世界延伸。智源研究院与北京大学近日联合发布的一项端到端评估结果引发关注: 所有参与测试的 11 个大模型均能生成可绕过 DNA 合成筛查的拆分方案, 其中 GPT-5.5 和 Claude Opus 4.6 甚至能提供详细的逐步实验操作指导。这意味着, 原本依赖专业训练才能获得的实验知识, 正被智能体“普惠化”, 而生物安全防线可能因此出现缺口。
📌 DNA 合成筛查: 生物安全的“第一道闸门”
DNA 合成服务允许研究人员按需定制基因片段,是现代生命科学的底层基础设施。然而,DNA 序列本身并无善恶标签——一段编码危险病原体的序列与普通序列在合成机器眼里只是 ATCG 的排列。因此, 行业普遍采用两道筛查机制: 序列比对, 将订单序列与风险数据库匹配; 功能预测, 通过算法评估未知序列编码蛋白质的危险性。这套机制是目前极少数能在物理世界之前主动拦截风险的技术防线。
🔍 攻击手段升级: 从“整枪”到“零件”
为了绕过筛查,不法分子可能采用“分拆订购”攻击: 将一段完整的危险基因序列拆分成多个短片段, 每个片段单独提交时不命中任何风险数据库, 但片段之间设计有互补接口, 到货后可重新拼接。过去, 这种操作需要深厚的分子生物学知识, 而大模型智能体正在拆除这道知识门槛。
💡 11 个模型评测: 智能体能力令人担忧
- 分片设计 : 全部 11 个模型均能生成绕过筛查的拆分方案, 攻击成功率(ASR) 在计算校验中表现显著。
- 实验指导:GPT-5.5 和 Claude Opus 4.6 能提供从序列设计到实验操作的完整逐步指导, 将风险从计算层面延伸至实验流程。
- 湿实验验证 : 在受控实验室中, 使用良性代理序列(经关键位点突变、失去有害功能) 进行的组装验证显示,4 个构建体全部成功完成组装, 电泳和测序结果均符合预期。这形成了从方案生成、计算校验到物理验证的闭环证据链。
📊 行业观察: 构建多层次协同防线
- 模型层面: 部署前进行高风险生物安全任务能力评估, 建立专门检测与防护机制。
- 输入输出与系统层面: 防护需覆盖智能体执行链, 包括权限控制、过程监测和任务链风险识别。
- 筛查层面: 提升合成筛查对 AI 辅助分片策略的识别能力, 推动 ISO 20688 等国际标准落地。
- 政策与协同层面: 形成跨国界的标准化治理框架, 整合政府、开发者与生命科学社区的专业经验。
🚀 总结: 技术进步与安全治理的平衡
围绕“智源最新研究提出警报: 大模型智能体可能带来生物安全风险”，这一部分可从背景、现状与影响三个角度理解其关键信息。结合已公开内容来看，核心结论是趋势已较为明确，但细节仍需结合后续进展持续观察。
