大语言模型背后的原理 - arxiv

语言建模是研究语言理解和生成的主要方法，最近预训练语言模型（PLMs）展示了强大的能力。大语言模型（LLM）的研究得到了推进，如ChatGPT的推出引起了广泛关注。LLM的技术演进改变了开发和使用人工智能算法的方式。调查报告回顾了LLM的最新进展，包括预训练、适应性调整、利用和能力评估等方面，并总结了现有资源和讨论了未来方向。