活动回顾 | 上海交大/中科院计算所/微软亚研/智源多位大咖分享干货,Meet AI Compiler 第5期技术沙龙圆满结束

💡 原文中文,约3000字,阅读约需7分钟。
📝

内容提要

本次活动邀请了多位AI编译器专家,分享了MLCEngine、ElasticRoom和FlagGems等技术。活动现场氛围活跃,激发了对AI编译器技术的思考。HyperAI超神经是一个开放的学术交流平台,欢迎更多人加入AI Compiler Family。

🎯

关键要点

  • 本次活动邀请了多位AI编译器专家,分享了最新的研究成果和应用实践。
  • 活动现场氛围活跃,激发了对AI编译器技术的深入思考。
  • HyperAI超神经是一个开放的学术交流平台,欢迎更多人加入AI Compiler Family。
  • 分享主题包括MLCEngine、ElasticRoom和FlagGems等技术。
  • MLCEngine是一个能够在不同平台上进行通用部署的LLM引擎。
  • ElasticRoom是一个多租户DNN推理引擎,旨在提高GPU资源利用率和实时请求的低延迟。
  • FlagGems是基于Triton的高性能通用算子库,为PyTorch框架下的大模型提供推理与训练加速。
  • 2024 Meet AI Compiler第6期技术沙龙预计在年底于上海举办,欢迎各方参与。
  • HyperAI超神经致力于构建国内最活跃的AI编译器社区,提供多种基础设施支持。
  • 中国科学院计算技术研究所是我国计算机科学技术研究的摇篮,培养了大量计算技术专业人员。
  • 中国计算机学会高性能计算专业委员会致力于推进中国高性能计算领域的研究与发展。
➡️

继续阅读