HyperAI超神经 x 开源中国丨高性能计算与大模型推理,北京见!
💡
原文中文,约1700字,阅读约需4分钟。
📝
内容提要
10月26日,OSC源创会将在北京举行,重点讨论高性能计算与大模型推理。华为、商汤等专家将分享优化经验,探讨计算需求与能耗管理,并介绍openMind平台及其低成本大模型应用功能。
🎯
关键要点
- OSC源创会将于10月26日在北京举行,主题为高性能计算与大模型推理。
- 华为、商汤等公司的专家将分享大模型推理优化与开发应用的经验。
- 高性能计算为大模型推理提供必要的计算能力,二者相互依赖。
- 大模型推理需要大量计算资源,且高性能计算系统能耗较高,需要有效的能耗管理。
- 云服务的发展使得HPC资源在云上可获得,为大模型推理提供灵活性和可扩展性。
- 演讲嘉宾包括商汤、华为和趋境科技的专家,讨论大模型推理优化和技术创新。
- openMind平台将介绍如何选择合适的大模型和数据集,并提供在线应用开发能力。
- 趋境科技将分享如何使用单卡完成千亿参数大模型推理任务,降低使用成本。
- 活动还设有奖品池,参与者可通过邀请好友获得奖品。
➡️