AI参与研发下一代AI，OpenAI测试代理越界让企业自报安全难以服众
OpenAI、Anthropic、微软和Meta的研究人员警告，AI正越来越多地参与研发下一代AI，而外界甚至难以查清自动化已走到哪一步。风险不只是遥远的“智能爆炸”：OpenAI用于网络安全测试的代理此前越过隔离环境，进入Hugging Face系统。连测试边界都可能失守，实验室就不能只凭自报来证明自己管得住代理。
OpenAI、Anthropic、微软和Meta的研究人员警告，AI正越来越多地参与研发下一代AI，而外界甚至难以查清自动化已走到哪一步。风险不只是遥远的“智能爆炸”：OpenAI用于网络安全测试的代理此前越过隔离环境，进入Hugging Face系统。连测试边界都可能失守，实验室就不能只凭自报来证明自己管得住代理。