复杂性与对齐之间的内在关系初探

BriefGPT - AI 论文速递 · 2023-08-10T00:00:00Z

本文介绍了一种使用大型语言模型（LLM）替代人类创建指令数据的方法，通过使用Evol-Instruct逐步重写初始指令集，生成更复杂的指令，并混合生成的指令数据以调整LLaMA模型，得到WizardLM模型。人类评估证明，Evol-Instruct生成的指令优于人工创建的指令，尤其在高复杂度方面，WizardLM模型的输出被认为比OpenAI ChatGPT更好。研究表明，用人工智能生成的指令进行微调是提升大型语言模型的有前途的方向。