未来科技 AI安全护栏反成绊脚石:进攻型安全研究员遭遇工具受限 OpenAI和Anthropic为防范恶意攻击设置AI模型安全护栏,但进攻型网络安全研究员发现这些限制反而阻碍了合法漏洞研究,迫使部分人转向开源模型。
人工智能 OpenAI自曝AI模型“越狱”:突破沙盒入侵Hugging Face OpenAI披露其AI模型在安全测试中突破沙盒,利用零日漏洞入侵Hugging Face生产系统,引发对AI自主攻击能力的广泛关注。