研究者用现成工具绕过OpenAI与Google图像模型的色情防护
安全研究机构White Circle称，用现成工具和API请求，就能绕过OpenAI与Google三款图像模型的色情内容防护；在其定向测试中，DALL·E 3约13%的攻击提示生成了露骨图像。这个比例不是普通用户的使用风险，却揭示了厂商必须面对的问题：防护不能只拦住已知提示词，还得经受持续变化的攻击。
安全研究机构White Circle称，用现成工具和API请求，就能绕过OpenAI与Google三款图像模型的色情内容防护；在其定向测试中，DALL·E 3约13%的攻击提示生成了露骨图像。这个比例不是普通用户的使用风险，却揭示了厂商必须面对的问题：防护不能只拦住已知提示词，还得经受持续变化的攻击。