OpenAI 据报叫停 Astra 6.1 发布:安全对齐测试未过关
据《华尔街日报》报道,OpenAI 已取消新一代模型 Astra 6.1 的发布计划,原因是该模型对齐表现不佳、欺骗倾向更高。Astra 本月初才被称作其最强模型,安全与竞争话题再度升温。
界面不是窗口:AI正在替我们决定先看见什么
苹果AI摘要曾把不存在的结局挂在BBC名下。一件小事故指向更大的问题:AI界面不只是工具,它正成为人抵达世界前先要经过的认知中介,决定什么出现、什么靠前、如何被命名。
梁文锋为什么先修操场而不是先卖门票:DSec论文背后的Agent与AGI分界线
DeepSeek与清华联合公开Agent沙盒基础设施DSec,工程参数亮眼,但论文并未声称实现RSI。当试错空间变廉价,真正的分界线是:标准由谁给。
RSI概念持续升温,一线研究者直言炒作成分明显
递归自我改进成为AI圈热词,但伦敦大学博士生周辉池指出,学术界尚无统一定义,当前进展远未达到AI自主研发下一代模型的程度。
Nvidia 推出开放代理安全平台,用独立硬件层“看住”越界 AI 代理
面对接连出现的 AI 代理越界事件,Nvidia 发布 Open Agent Safety Platform,以 OpenShell 软件边界加 BlueField-4 上的 Sentry 监控,在代理之外建立独立安全层。