Meta的开源LLama3再度颠覆AI技术,鼓吹闭源的李彦宏是否真的打脸了?全新70B模型震撼发布,全方位超越GPT3.5,会给整个行业带来哪些改变?
内容提要
Llama3发布了两个版本,8B和70B,速度快且超越了GPT3.5。Llama3的发布将带来开源大模型行业的爆发式升级,行业应用也将快速提升。未来还可以期待GPT5的出现。
延伸解读
开源与闭源之争:李彦宏言论的再审视
李彦宏曾称开源大模型会越来越落后,但Llama3的发布展示了开源模型的快速进步。文章指出,李彦宏的言论有其背景:训练大模型成本极高,开源模型底层框架受制于人,且商业模式不明确。然而,Llama3推动了开源生态升级,可能对闭源模型如文心一言构成竞争压力。这反映了开源与闭源在技术发展和商业路径上的持续博弈。
Llama3的技术突破与局限
Llama3在上下文长度、训练效率和安全性上有提升,支持8K上下文,并使用大量高质量数据训练。但其中文支持较弱,非英语内容仅占5%,且模型可能自称其他模型,版权数据使用存在模糊地带。这些局限意味着用户需针对中文场景进行微调,并注意潜在的法律风险。
对行业格局的潜在影响
Llama3的发布可能推动开源大模型行业爆发式升级,微调模型将快速涌现,提升行业应用可用性。同时,从头训练自研大模型的公司将面临更大压力,包括百度。开源模型降低了系统集成商的门槛,可能侵蚀闭源模型的市场,但开源自身的商业模式仍不清晰,Meta也未明确盈利路径。
中文用户的实用建议
对于中文用户,Llama3的8B版本可在本地运行,速度快,但70B需要128G内存。中文支持不足,建议等待中文微调版本或使用其他对中文优化的模型。云端测试可能因资源紧张体验不佳,可考虑租用云服务器。未来多模态模型和更大参数版本值得期待,但需关注其开源可能性和硬件需求。
Q&A
Llama3的主要特点是什么?
Llama3发布了8B和70B两个版本,速度快且超越了GPT3.5,支持8K上下文,训练效率和安全性都有显著提升。
Llama3的发布对开源大模型行业有什么影响?
Llama3的发布将推动开源大模型行业的快速升级,行业应用将迅速提升,可能吸引更多创业公司进入该领域。
Llama3在上下文处理上有什么改进?
Llama3支持8K上下文,允许输入和输出的总字数达到8000字,显著提升了上下文处理能力。
李彦宏对开源大模型的看法是什么?
李彦宏曾表示开源大模型会越来越落后,但Llama3的发布可能会打脸这一说法,显示开源技术的进步。
Llama3的训练数据有什么特点?
Llama3使用了大量高质量的训练数据,数据量是Llama2的几倍,确保了模型的训练效果。
Llama3的发布可能带来哪些商业模式的变化?
开源大模型的商业模式仍不明确,许多公司尚未找到盈利路径,但Llama3的发布可能会促使更多公司探索新的商业机会。