HyperAI超神经 x 开源中国丨高性能计算与大模型推理,北京见!

💡 原文中文,约1700字,阅读约需4分钟。
📝

内容提要

10月26日,OSC源创会将在北京举行,重点讨论高性能计算与大模型推理。华为、商汤等专家将分享优化经验,探讨计算需求与能耗管理,并介绍openMind平台及其低成本大模型应用功能。

🎯

关键要点

  • OSC源创会将于10月26日在北京举行,主题为高性能计算与大模型推理。
  • 华为、商汤等公司的专家将分享大模型推理优化与开发应用的经验。
  • 高性能计算为大模型推理提供必要的计算能力,二者相互依赖。
  • 大模型推理需要大量计算资源,且高性能计算系统能耗较高,需要有效的能耗管理。
  • 云服务的发展使得HPC资源在云上可获得,为大模型推理提供灵活性和可扩展性。
  • 演讲嘉宾包括商汤、华为和趋境科技的专家,讨论大模型推理优化和技术创新。
  • openMind平台将介绍如何选择合适的大模型和数据集,并提供在线应用开发能力。
  • 趋境科技将分享如何使用单卡完成千亿参数大模型推理任务,降低使用成本。
  • 活动还设有奖品池,参与者可通过邀请好友获得奖品。
➡️

继续阅读