/cdn.vox-cdn.com/uploads/chorus_asset/file/24347781/STK095_Microsoft_03.jpg)
微软推出迄今最小的AI模型Phi-3
内容提要
微软发布了轻量级AI模型Phi-3 Mini的下一个版本，该模型是公司计划发布的三个小型模型之一。Phi-3 Mini拥有38亿个参数，并且相对于GPT-4等大型语言模型，它的数据集较小。该模型现在可在Azure、Hugging Face和Ollama上使用。微软计划发布Phi-3 Small（70亿参数）和Phi-3 Medium（140亿参数）。小型模型通常在运行成本上更便宜，并且在个人设备上的性能更好。与其他竞争对手的小型AI模型相比，Phi-3在编码和推理方面表现更好。然而，Phi-3系列模型的广度不及GPT-4或其他大型语言模型。
延伸解读
小模型的大潜力
Phi-3 Mini 仅有38亿参数，但微软称其性能接近10倍大的模型，甚至与GPT-3.5相当。这意味着在资源受限的环境下，如手机或笔记本电脑，也能运行高质量的AI。对于开发者而言，小模型降低了部署门槛，让更多设备具备本地AI能力，而无需依赖云端。
独特的训练方法
微软采用“课程”训练法，灵感来自儿童学习。他们用3000多个单词让大语言模型生成“儿童读物”来教Phi-3。这种方法使模型在编码和推理上表现更佳，但知识广度有限。这提示我们，训练数据的质量和结构可能比单纯的数量更重要。
与竞品的差异
Phi-3 Mini在编码和推理上优于其他小型模型，如谷歌Gemma、Anthropic Claude 3 Haiku和Meta Llama 3 8B。然而，它的知识广度不及GPT-4等大型模型。因此，选择模型时需权衡任务需求：若需广泛知识，大模型更合适；若追求效率和特定能力，Phi-3是优选。
未来路线图
微软计划推出Phi-3 Small（70亿参数）和Phi-3 Medium（140亿参数），逐步扩展模型规模。这表明微软在小型模型领域持续投入，旨在平衡性能与成本。随着更多版本发布，开发者将拥有更多选择，以适应不同场景的AI需求。
Q&A
Phi-3 Mini的参数数量是多少？
Phi-3 Mini拥有38亿个参数。
Phi-3 Mini在哪些平台上可以使用？
Phi-3 Mini现在可在Azure、Hugging Face和Ollama上使用。
小型AI模型的优势是什么？
小型AI模型通常运行成本更低，且在个人设备上的性能更好。
微软计划发布哪些Phi-3系列模型？
微软计划发布Phi-3 Small（70亿参数）和Phi-3 Medium（140亿参数）。
Phi-3在编码和推理方面的表现如何？
Phi-3在编码和推理方面表现优于其他竞争对手的小型AI模型。
Phi-3系列模型与大型模型相比有什么局限性？
Phi-3系列模型的知识广度不及GPT-4等大型语言模型。
