宣布在 Amazon Bedrock 中推出来自 Meta 的 Llama 3.1 405B、70B 和 8B 模型

宣布在 Amazon Bedrock 中推出来自 Meta 的 Llama 3.1 405B、70B 和 8B 模型

💡 原文中文,约4400字,阅读约需11分钟。
📝

内容提要

Meta在Amazon Bedrock上线Llama 3.1模型,支持128K上下文长度,容量是Llama 3模型的16倍。Llama 3.1在行业基准测试中表现出色,提供多语言对话用例推理效率。

🎯

关键要点

  • Meta在Amazon Bedrock上线Llama 3.1模型,支持128K上下文长度。
  • Llama 3.1模型的容量是Llama 3模型的16倍,包含8B、70B和405B参数大小的模型。
  • Llama 3.1在150多个基准数据集上表现优异,提升了多语言对话用例推理效率。
  • 用户可以在Amazon Bedrock中使用Llama 3.1模型进行生成式人工智能应用的构建和扩展。
  • Meta提供了Llama 3.1模型的访问权限申请方式,包括通过AWS账户团队或支持票证申请。
  • 用户可以通过AWS CLI和SDK访问Llama 3.1模型,并提供了代码示例。
  • Llama 3.1模型可在Amazon SageMaker JumpStart中使用,并支持微调和自定义模型导入。
  • AWS提供了高性能的EC2实例以支持Llama 3.1模型的自我管理部署。
  • Meta与亚马逊合作,推动生成式人工智能的发展,Nomura等企业正在利用Llama模型。
  • Llama 3.1 8B和70B模型已正式推出,405B模型在美国西部地区为预览版。
➡️

继续阅读