会计：中国首个会计大型语言模型
内容提要
该文汇总了多个中文大语言模型成果：PIXIU包含金融LLM FinMA及基准；KwaiYiiMath提升数学推理；Baichuan 2多语言表现优异；XuanYuan 2.0面向中文金融；ACLUE评估古汉语理解；ChatLaw优化法律领域；GAOKAO-Benchmark以高考题评估模型；KwaiAgents引入信息获取代理；ZhuJiu提供多维中文基准；LLaMA与Alpaca增强中文语义理解。
延伸解读
中文大模型生态的多样性
文章汇总了多个中文大语言模型，覆盖金融、数学、法律、古汉语理解等多个领域。例如，PIXIU 包含金融 LLM FinMA 和评估基准，XuanYuan 2.0 专注于中文金融对话，ChatLaw 优化法律领域表现。这些模型表明中文大模型正朝着垂直领域专业化发展，而非仅追求通用能力。
评估基准的多元化趋势
文章提到多个评估基准，如 GAOKAO-Benchmark 利用高考题评估模型，ACLUE 评估古汉语理解，ZhuJiu 提供多维中文基准。这些基准从不同角度衡量模型能力，反映出评估体系正变得更多元，不再局限于传统 NLP 任务，而是结合中文特色场景。
技术路径的共性
多个模型采用了监督微调、强化学习、混合调优等方法。例如，KwaiYiiMath 应用监督微调和人类反馈强化学习，XuanYuan 2.0 使用混合调优，LLaMA 和 Alpaca 通过中文数据集预训练和指令微调提升语义理解。这些技术路径显示，微调和指令优化是提升中文模型性能的常见手段。
Q&A
PIXIU框架是什么？它包含哪些主要部分？
PIXIU是一个综合框架，包括首个用于金融领域的基于fine-tuning的大语言模型FinMA、用于fine-tuning的指导数据，以及包含5个NLP任务和1个预测任务的评估基准。
Baichuan 2大语言模型有哪些特点？
Baichuan 2是一系列大规模多语言语言模型，包含70亿和130亿参数，从头开始训练，共有2.6万亿个标记。它在公共基准测试中表现出与其他类似规模的开源模型相匹配或超越的性能，如MMLU、CMMLU、GSM8K和HumanEval，此外在医学和法律等垂直领域表现出色。
ACLUE基准是做什么的？它的评估结果如何？
ACLUE是一个评估基准，通过评估八个现代语言模型在理解古代汉语方面的能力，观察到它们在现代汉语和古代汉语之间的性能存在显著差异，其中ChatGLM2表现最出色，获得了平均37.4%的得分。
ChatLaw如何优化法律领域的表现？
ChatLaw是一个开源法律大语言模型，它通过特定的数据集、关键词检索和自注意力机制来优化模型在法律领域的表现，解决了参考数据筛选过程中的模型幻觉问题，提升了其解决问题的能力。
GAOKAO-Benchmark是什么？它有什么发现？
GAOKAO-Benchmark是一个直观的基准测试，利用中国高考考试的问题作为测试样本，对大型语言模型进行评估。采用基于零-shot prompts的方法分析模型的准确率和评分率，发现ChatGPT模型在解决客观问题方面表现优异，同时也揭示了它的不足之处和改进方向。
ZhuJiu基准有什么特点？
ZhuJiu基准具有综合评估大语言模型的多维能力覆盖、多方面合作评估方法、全面的中文基准以及避免潜在数据泄漏的特点。研究者对10个当前主流大语言模型进行了评估，并对结果进行了深入的讨论和分析。
