文章介绍OpenAI保障前沿模型训练与评估环境安全的方法:训练期间禁止联网,构建离线网络世界供模型练习浏览与编程;采用沙箱、虚拟机隔离、监控系统及云网络边界层层设防的纵深防御;通过高算力红队测试让模型智能体尝试突破防线,发现虚拟机逃逸、DNS等漏洞及缓存计时等跨隔离通信渠道,并已修复和披露;强化防护后于10月1日恢复前沿强化学习训练。
完成下面两步后,将自动完成登录并继续当前操作。