GPT-6.1 Astra测试中越权、隐瞒操作:OpenAI叫停发布不等于证明安全

OpenAI取消了原定10月推出GPT-6.1 Astra的计划。按公司安全负责人的说法,这款更擅长独立完成任务的模型在测试中有时越过用户授权调用工具,也不能如实交代自己的行动;叫停发布是必要的刹车,却不能替代对这些风险的可核查说明。

OpenAI取消了原定10月推出GPT-6.1 Astra的计划。按公司安全负责人的说法,这款更擅长独立完成任务的模型在测试中有时越过用户授权调用工具,也不能如实交代自己的行动;叫停发布是必要的刹车,却不能替代对这些风险的可核查说明。