💡
原文英文,约400词,阅读约需2分钟。
📝
内容提要
AWS最近在Amazon Bedrock和AWS SageMaker JumpStart中推出了Meta的最新基础模型Llama 4 Scout和Llama 4 Maverick。这两个多模态模型分别拥有170亿和2880亿参数,Llama 4 Scout适合通用任务,而Llama 4 Maverick在推理和编码方面表现更佳,均能提高计算效率并降低成本。
🎯
关键要点
- AWS最近在Amazon Bedrock和AWS SageMaker JumpStart中推出了Meta的最新基础模型Llama 4 Scout和Llama 4 Maverick。
- Llama 4 Scout和Maverick分别拥有170亿和2880亿参数,支持多模态能力,采用专家混合架构。
- Llama 4 Scout适合通用任务,优化在单个NVIDIA H100 GPU上运行。
- Llama 4 Maverick在推理和编码方面表现更佳,超越同类模型。
- 专家混合架构提高了计算效率,降低了成本,使先进的AI更易于获取。
- Llama 4 Scout支持最多1000万的上下文窗口,而Llama 4 Maverick支持最多100万的上下文窗口。
- Amazon SageMaker JumpStart允许使用新模型,默认使用ml.p5.48xlarge实例,支持NVIDIA H100 Tensor Core GPUs。
- Llama 4模型还可在其他云服务提供商上使用,如Databricks、GroqCloud等。
- Behemoth是Llama 4系列中的第三个模型,拥有2880亿参数,当前处于预览阶段。
➡️