内容持续更新中
在追求更强大 AI 能力的同时,模型如何确保自身安全已成为行业核心命题。近日,OpenAI 发布了全新的自动化红队测试模型 GPT-Red,通过规模化的自博弈训练,成功将模型在直接提示注入攻击中的失败…