本文探讨了通过增强AI标注系统提升长文本、数学和代码任务反馈质量的方法。我们提出了一种代理系统，利用网络搜索和代码执行验证标注，减少LLM内部偏见的影响。实验结果表明，该方法在多个任务领域表现良好，并提供了开源代码以供复现。

Code Llama是Llama 2的开放访问版本，专门用于代码任务。它有7、13和34亿个参数的模型，训练数据包括5000亿个代码标记。这些模型在各种编程语言中展示了最先进的性能。Code Llama可用于代码补全、代码填充和对话界面。它在Hugging Face生态系统中可用，并且可以与transformers 4.33版本一起使用。Code Llama还支持4位加载，并且可以使用文本生成推理和推理端点进行部署。这些模型已经在HumanEval和MultiPL-E等数据集上进行了评估。