燧原科技与飞桨大模型工具链完成推理 I 级适配
💡
原文中文，约1200字，阅读约需3分钟。
📝
内容提要
燧原科技的S60人工智能推理加速卡通过大模型推理I级兼容性测试，成为国内首家适配认证的芯片厂商。S60在Llama-13B模型上表现良好，可广泛应用于图像、文本生成、搜索与推荐、文本、图像和语音识别等场景。
🎯
关键要点
- 燧原科技的S60人工智能推理加速卡完成大模型推理I级兼容性测试，成为国内首家适配认证的芯片厂商。
- S60在Llama-13B模型上表现良好，满足精度、首字延迟及tokens吞吐率等指标。
- 飞桨大模型工具链适配认证标准包括调优、训练、推理等功能的验证。
- 燧原S60适用于数据中心大规模部署，广泛应用于图像、文本生成、搜索与推荐等场景。
- 燧原科技专注于人工智能领域云端算力产品，提供自主知识产权的训练和推理产品。
- 飞桨是中国首个自主研发的产业级深度学习平台，服务1465万开发者和37万家企事业单位。
- 飞桨与硬件厂商联合发布硬件生态共创计划，已有超过40家成员参与。
➡️
