Meta推出性能更强大的编程AI Code Llama 70B版 支持100K上下文

💡 原文中文,约900字,阅读约需2分钟。
📝

内容提要

Meta/Facebook发布并开源了Code Llama编程AI模型。他们现在推出了更强大的版本Code Llama 70B,该版本在5000亿个标记上进行了训练,并支持10万个上下文窗口。它可以理解代码结构,并用于多种编程语言中的算法、排序和搜索任务。还有经过微调的版本,如CodeLlama-70B-Instruct和CodeLlama-70B-Python。这些模型可以在开放许可下免费下载。

🎯

关键要点

  • Meta/Facebook发布并开源了多款AI模型,改善了开发者对其的负面印象。
  • 2023年8月,Meta推出了编程AI模型Code Llama,基于Llama 2模型。
  • 新版本Code Llama 70B在5000亿个标记上训练,支持10万个上下文窗口。
  • Code Llama 70B使用自注意力技术理解代码结构,支持多种编程语言的算法、排序和搜索任务。
  • Meta还推出了微调版本,包括CodeLlama-70B-Instruct和CodeLlama-70B-Python,后者专注于Python代码生成。
  • Code Llama 70B采用开放许可证,允许免费下载和修改,适合学术和商业用户。
➡️

继续阅读