研究显示,随着大型语言模型的发展,非专家可以监督专家。通过辩论方法,非专家模型和人类的准确率分别提升到76%和88%。无监督优化的辩手也能提高非专家模型识别真相的能力。这为在缺乏绝对真实性的情况下,通过辩论对齐模型提供了支持。
大型语言模型的对齐方法依赖于人工标注数据,但随着模型发展,人类专业知识不足。研究发现辩论方法对非专家模型和人类都有帮助,准确率分别为76%和88%。无监督方式优化专业辩手的说服力可提高非专家模型在辩论中识别真相的能力。研究结果为通过辩论对齐模型提供了实证证据。
完成下面两步后,将自动完成登录并继续当前操作。