AI 编译器技术分享会:上海交大/中科院计算所/微软亚研/智源,他们来了!
内容提要
2023年AI编译器社区举办线下聚会,19位嘉宾和1000多名行业从业者参加。2024年7月6日,中国科学院计算技术研究所将举办第5期技术沙龙,包括技术分享和圆桌讨论。嘉宾来自上海交通大学、中国科学院计算技术研究所、微软亚洲研究院和北京智源人工智能研究院。
延伸解读
活动定位与社区延续性
本次沙龙是AI编译器社区第5期线下聚会,延续了2023年4场Meetup的积累。前序活动覆盖3个城市、19位嘉宾和1000多名从业者,表明该细分领域已形成稳定的交流据点。活动选址中国科学院计算技术研究所,并联合HyperAI超神经、OpenBayes和MLC.AI社区,有助于连通学术研究与产业实践,为开发者提供持续的技术社交场景。
技术议题的实践指向
四个分享主题均围绕大模型部署与编译优化展开:MLCEngine关注跨平台LLM部署,ElasticRoom解决多租户DNN推理的GPU利用率和低延迟问题,块抽象工作探索深度学习编译栈的访存与低精度支持,FlagGems则基于Triton构建大模型算子库。这些议题直接回应了异构硬件上高效运行大模型的工程挑战,对从事推理加速和算子开发的工程师具有参考价值。
圆桌讨论的焦点与意义
圆桌主题“Transformer时代的跨异构芯片编译优化”指向当前AI编译器的核心难题:如何让Transformer模型在不同芯片架构上高效执行。该讨论汇集了来自上海交大、中科院计算所、微软亚研和智源研究院的嘉宾,覆盖学术与工业视角,有助于厘清跨异构编译的技术路线和生态协作方向,值得关注后续可能形成的共识或开放问题。
参与须知与资源链接
活动时间为7月6日13:30-18:00,地点在北京市海淀区科学院南路6号中科院计算所一层报告厅,现场仅开放200个名额,需提前报名。主办方HyperAI超神经运营着国内活跃的AI编译器社区,协办方MLC.AI社区提供TVM中文文档和线上课程,参与者可通过这些资源在活动前后补充背景知识,提升交流效率。
Q&A
2024年AI编译器技术沙龙的时间和地点是什么?
活动时间为2024年7月6日(周六)13:30-18:00,地点在中国科学院计算技术研究所。
本次技术沙龙的主要内容包括哪些主题?
主要内容包括MLCEngine、ElasticRoom、基于块抽象的深度学习编译系统和基于Triton的大模型算子库FlagGems等技术分享。
谁是本次活动的主办方和协办方?
活动由HyperAI超神经主办,OpenBayes贝式计算和MLC.AI社区协办。
参加活动需要提前报名吗?
是的,活动现场座位有限,建议尽早报名以锁定席位。
中国科学院计算技术研究所的历史背景是什么?
中国科学院计算技术研究所成立于1956年,是中国计算机科学技术研究的学术机构,曾研制成功我国第一台通用数字电子计算机。
圆桌讨论的主题是什么?
圆桌讨论的主题为Transformer时代的跨异构芯片编译优化。