Meta发布Llama 3.1 405B，迄今为止最大的开源模型
内容提要
Meta发布了Llama 3.1 405B语言模型，拥有4050亿参数、15万亿令牌和16000个GPU。云服务提供商支持该模型，包括Databricks、Dell、Nvidia、IBM、Snowflake和Scale AI等。Llama 3.1 405B支持8种语言，提供网页搜索、数学推理和代码执行等工具。用户可以下载权重并在应用中使用。根据Scale AI的SEAL排行榜，Llama 3.1 405B在数学推理和编码方面排名靠前。这次发布是AI行业的战略举措，也是技术上的突破。
延伸解读
开源模型的新高度
Llama 3.1 405B 是首个可免费下载的 GPT-4 级大语言模型，用户能获取权重并在自有硬件上运行。这标志着开源模型在性能上正快速逼近顶尖闭源模型，如 GPT-4o 和 Claude 3.5 Sonnet。根据 Scale AI 的 SEAL 排行榜，它在数学推理和指令遵循方面表现突出，编码排名第四。开源与闭源的差距正在缩小，为开发者和企业提供了新的选择。
硬件门槛与运行成本
尽管 Llama 3.1 405B 可免费下载，但运行它需要强大的硬件。Meta 表示它能在“单个服务器节点”上运行，这远超普通台式机的能力。因此，个人用户或小团队可能难以直接部署，更适合有云服务或企业级硬件的用户。云厂商如 Databricks、Dell、Nvidia、IBM、Snowflake 等已提供支持，用户可通过 API 或托管服务使用，降低了直接部署的复杂度。
多语言与工具集成
Llama 3.1 405B 支持八种语言：英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语，并具备 128k 令牌的上下文窗口，可处理数百页内容。模型还集成了网页搜索、数学推理和代码执行等工具，增强了实用性。这些特性使其适合多语言应用和复杂任务，但需注意模型并非多模态，无法理解或生成图像，Meta 承诺未来将推出多模态版本。
Q&A
Llama 3.1 405B的参数和性能如何？
Llama 3.1 405B拥有4050亿参数和15万亿令牌，支持8种语言，并在数学推理和编码方面表现优异。
哪些云服务提供商支持Llama 3.1 405B？
支持Llama 3.1 405B的云服务提供商包括Databricks、Dell、Nvidia、IBM、Snowflake和Scale AI等。
用户如何使用Llama 3.1 405B？
用户可以下载Llama 3.1 405B的权重，并在自己的应用中使用该模型。
Llama 3.1 405B与其他模型相比如何？
Llama 3.1 405B的基准分数接近甚至超过GPT-4o和Claude 3.5 Sonnet，在数学推理和编码方面排名靠前。
Llama 3.1 405B的开源特性有什么重要性？
Llama 3.1 405B是首个可以免费下载并在个人硬件上运行的GPT-4级大型语言模型，推动了开源AI的发展。
Llama 3.1 405B是否支持多模态功能？
Llama 3.1 405B不是多模态模型，无法理解或创建图像，但Meta承诺将推出多模态版本。
