InfoQ
·
Meta发布Llama 3.1 405B，迄今为止最大的开源模型
内容提要
Meta发布了Llama 3.1 405B语言模型，拥有4050亿参数、15万亿令牌和16000个GPU。云服务提供商支持该模型，包括Databricks、Dell、Nvidia、IBM、Snowflake和Scale AI等。Llama 3.1 405B支持8种语言，提供网页搜索、数学推理和代码执行等工具。用户可以下载权重并在应用中使用。根据Scale AI的SEAL排行榜，Llama 3.1 405B在数学推理和编码方面排名靠前。这次发布是AI行业的战略举措，也是技术上的突破。
关键要点
-
Meta发布了Llama 3.1 405B语言模型，拥有4050亿参数、15万亿令牌和16000个GPU。
-
多个云服务提供商支持Llama 3.1 405B，包括Databricks、Dell、Nvidia、IBM、Snowflake和Scale AI。
-
Llama 3.1 405B支持8种语言，提供网页搜索、数学推理和代码执行等工具。
-
用户可以下载权重并在应用中使用，模型的基准分数接近甚至超过GPT-4o和Claude 3.5 Sonnet。
-
根据Scale AI的SEAL排行榜，Llama 3.1 405B在数学推理和编码方面排名靠前。
-
Llama 3.1 405B是首个可以免费下载并在个人硬件上运行的GPT-4级大型语言模型。
-
这些模型不是多模态的，无法理解或创建图像，但Meta承诺将推出多模态版本。
延伸问答
Llama 3.1 405B的参数和性能如何？
Llama 3.1 405B拥有4050亿参数和15万亿令牌，支持8种语言，并在数学推理和编码方面表现优异。
哪些云服务提供商支持Llama 3.1 405B？
支持Llama 3.1 405B的云服务提供商包括Databricks、Dell、Nvidia、IBM、Snowflake和Scale AI等。
用户如何使用Llama 3.1 405B？
用户可以下载Llama 3.1 405B的权重，并在自己的应用中使用该模型。
Llama 3.1 405B与其他模型相比如何？
Llama 3.1 405B的基准分数接近甚至超过GPT-4o和Claude 3.5 Sonnet，在数学推理和编码方面排名靠前。
Llama 3.1 405B的开源特性有什么重要性？
Llama 3.1 405B是首个可以免费下载并在个人硬件上运行的GPT-4级大型语言模型，推动了开源AI的发展。
Llama 3.1 405B是否支持多模态功能？
Llama 3.1 405B不是多模态模型，无法理解或创建图像，但Meta承诺将推出多模态版本。
