Meta Llama3.1——405b大模型震撼发布——性能全面超越GPT-4o,中国AI厂商是否迎来春天?新的时代到来了,历史的车轮滚滚向前。

💡 原文中文,约7800字,阅读约需19分钟。
📝

内容提要

中国的Llama3.1 405b模型超越了GPT-4,支持8种语言但不支持中文。Llama3.1是Llama系列的第一个多模态大模型,需要大量显卡和云端支持。Llama3.1的开源模型引发了中国的价格战,中国团队开始冲锋。Llama3.1的发布对开源生态系统有积极影响,中国团队有望超越GPT-4。

🔎

延伸解读

开源盈利模式:标准与生态

文章指出,Llama通过成为事实标准来盈利。它开放模型和参数,吸引全球开发者基于其微调、贡献数据,形成生态。Meta再将社区产生的开放数据收回训练新版本,如Llama 3.1。这种模式不直接收费,但通过生态价值提升和云服务间接获利。开源并非免费,而是法律框架下的商业模式,核心是掌握标准制定权。

中国团队的机遇与限制

Llama 3.1 405B的发布为中国团队指明了方向:单体Transformer模型可达405B参数。但中国公司面临算力门槛,训练需数千万GPU小时,且Meta限制用户超7亿的公司使用其模型训练新模型。阿里、字节、腾讯等若未申请许可,可能面临法律风险。尽管如此,文章认为中国团队会快速跟进,推出更大模型,并可能在一两个月内更新版本超越GPT-4。

价格与云端部署现实

Llama 3.1 405B在Together AI上的价格为每百万token 5美元,相比GPT-4o的输入5美元、输出15美元,以及Claude 3 Opus的输入15美元、输出75美元,具有一定价格优势。但405B模型本地部署需要大量显卡,普通用户只能通过云端使用。目前云端提供的405B上下文窗口仅4K,远低于宣称的128K,限制了多模态等功能的实际应用。

开源争议与使用限制

Llama 3.1并非严格意义上的开源,它只开放了部分代码和模型参数,未公开训练数据和完整训练过程。使用上,Meta禁止用Llama 3训练新模型,并要求用户超过7亿的公司申请特殊许可。这些限制被文章称为“君子协定”,执行依赖法律诉讼,但取证困难。尽管如此,Llama通过成为标准推动了开源生态发展,其影响力已不可忽视。

❓

Q&A

Llama3.1 405B模型有哪些主要特点?

Llama3.1 405B模型超越了GPT-4,支持8种语言但不支持中文,是第一个多模态大模型,具有128K的上下文窗口,实际使用限制为4K。

Llama3.1的开源模型对中国AI行业有什么影响?

Llama3.1的开源模型引发了中国的价格战,促进了中国团队的研发,可能使其超越GPT-4。

Llama3.1的上下文窗口有什么变化?

Llama3.1的上下文窗口从8K提升至128K,但实际使用中限制为4K。

Llama3.1的开源是否存在争议?

是的,Llama的开源存在争议,部分代码和训练数据未完全开放,且对使用有一定限制。

Llama3.1的价格与其他模型相比如何?

Llama3.1的价格相对较低,405B模型生成100万TOKEN的费用为5美元,较其他模型更具竞争力。

中国团队在Llama3.1发布后有什么反应?

中国团队积极研发新模型,可能会超越GPT-4,并开始打价格战。

🏷️

标签

➡️

继续阅读