InfoQ
·
微软Phi-4：专为复杂数学推理而设计的小型语言模型
💡
原文英文，约500词，阅读约需2分钟。
📝
内容提要
Phi-4是微软研究院开发的14B参数模型，旨在提升数学推理能力。该模型在Hugging Face上发布，采用合成数据和精选的有机数据进行训练，显著超越前代模型。经过后期优化，Phi-4在多个基准测试中表现优于Llama-3.1-405B和GPT-4o，成为可靠的AI助手。
🎯
关键要点
- Phi-4是微软研究院开发的14B参数模型，旨在提升数学推理能力。
- Phi-4在Hugging Face上发布，采用MIT许可证。
- 该模型在数学推理方面超越了同类和更大模型，得益于训练过程中的多项创新。
- Phi-4在STEM领域的问答能力显著优于其教师模型GPT-4。
- 合成数据的使用为模型提供了更渐进的学习路径和更好的推理上下文对齐。
- 微软使用了经过筛选的有机数据，包括来自公共网站和外部数据集的高质量问题和解决方案。
- 后期训练阶段旨在将预训练模型转变为可靠的AI助手，进行了多领域的数据微调。
- 使用新技术Pivotal Token Search生成期望和不期望结果的对，优化模型与人类偏好的对齐。
- Phi-4在多个基准测试中表现优于Llama-3.1-405B和GPT-4o，尤其是在研究生级STEM问答和数学竞赛基准上。
➡️
