HyperAI超神经 x 开源中国 | 武汉源创会回归，抓住大模型技术机遇
内容提要
武汉源创会将于4月20日举行，邀请了武智院、华为、京东、清华的业界专家，聚焦大模型技术的深度解读。会议将探讨大模型应用的挑战和解决方案，介绍昇腾对大模型训练、推理加速、模型压缩的技术特点和优势，以及京东在大模型应用方面的实践经验。此外，还将讨论使用Serverless推理引擎提升大模型推理效能，以及昇思MindSpore的技术创新进展和超大规模AI实践。
延伸解读
大模型落地面临的实际挑战
文章指出，2024年大模型市场进入新阶段，拓展应用场景、提高性能、减少资源消耗成为关键问题。同时，场景需求碎片化、投入成本高、行业专家数据较少等痛点制约落地。这些挑战表明，大模型从技术突破到产业应用仍需解决效率与成本问题，而本次源创会正是围绕这些议题展开讨论。
昇腾生态的优化工具与迁移支持
华为专家将介绍昇腾在大模型训练、推理加速和模型压缩方面的技术。具体包括对DeepSpeed、bitsandbytes等加速/优化库的昇腾原生支持，自研AscendSpeed加速库以帮助客户快速迁移，以及基于云原生的推理加速和Volcano调度支持。这些内容为关注国产算力生态的开发者提供了技术参考。
大模型智能体与Serverless推理的实践方向
京东云将分享大模型智能体（Agent）的落地实践，强调通过环境感知、规划决策和行动执行发挥企业存量数字化优势。同时，清华专家将探讨Serverless推理引擎提升推理效能，引用Gartner数据称2023年70%的AI应用基于Serverless开发。这两个议题分别从应用形态和基础设施角度，呈现了大模型落地的不同路径。
昇思MindSpore的超大规模AI实践
华为MindSpore研发工程师将分享昇思在超大规模AI方面的进展，包括多维度混合并行、内存优化、图算融合等关键技术，已支撑20+大模型训练，并联合高校发布鹏程盘古NLP、紫东太初多模态等大模型。该议题覆盖训练、微调、压缩、部署全流程，有助于了解国产框架在超大规模场景下的能力。
Q&A
武汉源创会的时间和地点是什么？
武汉源创会将于2024年4月20日在武汉光谷科技大厦一楼报告厅举行。
武汉源创会将讨论哪些大模型技术的应用挑战？
会议将探讨如何拓展大模型的应用场景、提高模型性能、减少资源消耗等挑战。
昇腾在大模型训练和推理方面有哪些技术优势？
昇腾提供多种大模型加速/优化库的原生支持，并有自研的优化技术和云原生推理加速方案。
京东在大模型应用方面有哪些实践经验？
京东在自身业务场景中已经落地大量基于大模型的应用，并积累了丰富的实践经验。
使用Serverless推理引擎的优势是什么？
Serverless推理引擎可以提升大模型的推理效能，帮助降低成本并提高效率。
昇思MindSpore在超大规模AI实践中有哪些创新进展？
昇思MindSpore构建了多维度混合并行和内存优化等关键技术，支撑了多个大模型的训练。
