OpenAI推出了GPT-Red,一个自动化的红队系统,旨在大规模发现AI模型的提示注入漏洞。该系统通过自我对抗学习,快速测试数千种攻击变体,提升了GPT-5.6的安全性。GPT-Red在模拟环境中表现出色,并在实际应用中验证了其有效性。OpenAI计划进一步扩展该系统,以增强未来模型的安全防护。
完成下面两步后,将自动完成登录并继续当前操作。