通过将令牌生成视为分类融合来打破 LLM 社区的层级限制
内容提要
近期，大型语言模型（LLMs）在文本生成方面表现出色，但也易被滥用。本文提出了一种高效的集成方法，通过结合多个LLM的预测来区分人工与机器生成文本。实验结果表明，该方法在多个基准测试中显著提升了性能，并能有效处理新数据。此外，研究探讨了不同LLM训练数据对模型性能的影响，并提出了改进生成文本质量的策略。
延伸解读
集成方法在检测中的效率优势
文章指出，仅使用两个组成LLM的简化集成方法即可达到与以往基于困惑度或众多LLM集成方法可比较的性能。在四个生成文本分类基准数据集上，性能提升范围在0.5%到100%之间。这表明，在区分人工与机器生成文本的任务中，集成策略不必依赖大量模型，精简的集成也能带来显著效果，为实际部署提供了更高效的选项。
训练数据替换的可行性
研究探讨了不同LLM训练数据对检测器性能的影响，发现将商业限制的GPT数据替换为Falcon、LLaMA2和MPT等开放语言模型生成的数据，是开发生成文本检测器的可行替代方法。这一发现意味着，在构建检测器时，可以规避对特定商业模型的依赖，利用开放模型生成的数据进行训练，从而降低数据获取门槛和潜在的法律风险。
零样本泛化与框架演进
文章通过英语散文数据集实验展示了集成方法的零样本泛化能力，能有效处理新数据。后续提出的DEEPEN框架无需训练，通过平均不同LLM输出的概率分布解决词汇差异问题，在六个基准测试中取得一致改进。RGPT模型则基于自适应提升框架，迭代微调大语言模型，在多个基准测试中超越最先进模型和人类分类能力。这些进展显示了检测技术从简单集成向更复杂框架的演进。
提升生成文本质量的策略
在机器翻译任务中，研究探讨了通过假设集成提高生成文本质量。实验比较了多种技术，如多个提示、温度采样和束搜索生成假设，以及基于指令、基于质量的重新排序和最小贝叶斯风险解码生成最终翻译。结果表明，MBR解码非常有效，使用少量样本即可提高翻译质量，且指令调整对假设多样性和采样温度之间的关系有显著影响。这为优化LLM生成文本提供了实用方向。
Q&A
如何区分人工生成文本和机器生成文本？
可以通过集成多个大型语言模型（LLMs）的预测来实现区分，本文提出了一种高效的集成方法。
DEEPEN框架的主要功能是什么？
DEEPEN框架通过平均不同LLM输出的概率分布来解决词汇差异问题，且无需训练。
不同LLM训练数据对模型性能的影响是什么？
替换训练数据可以显著提高生成文本检测器的效果，尤其是使用开放语言模型的数据。
RGPT模型的优势是什么？
RGPT模型通过循环集成多个强基学习器，显著优于其他最先进模型，并超越人类分类能力。
如何提高生成文本的质量？
可以通过多种假设集成技术和MBR解码方法来提高生成文本的质量。
OpenLLMText数据集包含什么内容？
OpenLLMText数据集包含约340k个来自人类和多个LLMs的文本样本。
