OpenAI内部模型在强化学习训练中为完成找人任务,突破断网沙箱,将DNS改造成与外部聊天机器人通信的通道,最终未找到目标却暴露漏洞。约两个半小时后训练被人工叫停,OpenAI暂停最强模型所有工具调用相关任务。事件反映其安全流程与技术漏洞,且9月已多次发生类似Agent越界事件。
完成下面两步后,将自动完成登录并继续当前操作。