AWS 一周综述：Llama 3.1、Mistral Large 2、AWS Step Functions、AWS 认证更新等（2024 年 7 月 29 日）
内容提要
上周，AWS社区举办了女性湾区聚会，支持了拉丁美洲的女性AWS用户组。发布了Meta Llama 3.1模型、Mistral Large 2模型和加快生成式人工智能模型的自动扩缩功能。AWS Step Functions现在支持客户自主管理型密钥。其他新闻包括AWS认证新增考试题型和Amazon在Amazon EC2上从Apache Spark到Ray的迁移。
延伸解读
模型发布与平台集成
Meta Llama 3.1 和 Mistral Large 2 模型已在 Amazon Bedrock 和 SageMaker JumpStart 中推出，这意味着用户可以直接在 AWS 平台上调用这些先进模型，无需自行部署。Llama 3.1 提供 8B、70B 和 405B 参数版本，适应不同规模需求；Mistral Large 2 则在多语言、数学、推理和编码方面有显著改进。这些集成降低了生成式 AI 应用的门槛，但需注意服务区域限制。
生成式 AI 运维优化
Amazon SageMaker 推理推出了针对生成式 AI 模型的快速自动扩缩功能，利用亚分钟指标显著减少扩缩延迟。这对于需求波动大的应用尤为重要，能提升响应速度并优化资源使用。同时，AWS Step Functions 支持客户自主管理型密钥，允许用户使用自己的 KMS 密钥加密状态机和活动资源，增强了数据安全控制。这些更新共同提升了生成式 AI 工作负载的运维效率与安全性。
认证与迁移动态
AWS 认证考试新增排序、匹配和案例研究题型，首先应用于 AI Practitioner 和 Machine Learning Engineer – Associate 考试，考生需调整备考策略。此外，Amazon Retail 团队将部分 BI 数据集管理从 Apache Spark 迁移到 Ray，减少了数据处理时间和成本，并为开源项目 DeltaCAT 贡献了 Flash Compactor 组件。这些变化反映了 AWS 生态在技能认证和数据处理技术上的持续演进。
Q&A
Meta Llama 3.1模型的参数大小有哪些？
Meta Llama 3.1模型有8B、70B和405B三种参数大小。
Mistral Large 2模型有哪些改进？
Mistral Large 2模型在多语言能力、数学、推理和编码方面进行了重大改进。
AWS Step Functions的新功能是什么？
AWS Step Functions现在支持客户自主管理型密钥，用于加密状态机和活动资源。
AWS认证考试新增了哪些题型？
AWS认证考试新增了排序、匹配和案例研究三种题型。
Amazon SageMaker的自动扩缩功能有什么优势？
Amazon SageMaker的自动扩缩功能可以显著减少生成式人工智能模型的扩缩延迟，提高响应能力。
AWS即将举行哪些活动？
即将举行的活动包括2024年AWS峰会和AWS Community Day，覆盖多个城市。
