AI 编译器技术分享会:上海交大/中科院计算所/微软亚研/智源,他们来了!

💡 原文中文,约3300字,阅读约需8分钟。
📝

内容提要

2023年AI编译器社区举办线下聚会,19位嘉宾和1000多名行业从业者参加。2024年7月6日,中国科学院计算技术研究所将举办第5期技术沙龙,包括技术分享和圆桌讨论。嘉宾来自上海交通大学、中国科学院计算技术研究所、微软亚洲研究院和北京智源人工智能研究院。

🔎

延伸解读

活动定位与社区延续性

本次沙龙是AI编译器社区第5期线下聚会,延续了2023年4场Meetup的积累。前序活动覆盖3个城市、19位嘉宾和1000多名从业者,表明该细分领域已形成稳定的交流据点。活动选址中国科学院计算技术研究所,并联合HyperAI超神经、OpenBayes和MLC.AI社区,有助于连通学术研究与产业实践,为开发者提供持续的技术社交场景。

技术议题的实践指向

四个分享主题均围绕大模型部署与编译优化展开:MLCEngine关注跨平台LLM部署,ElasticRoom解决多租户DNN推理的GPU利用率和低延迟问题,块抽象工作探索深度学习编译栈的访存与低精度支持,FlagGems则基于Triton构建大模型算子库。这些议题直接回应了异构硬件上高效运行大模型的工程挑战,对从事推理加速和算子开发的工程师具有参考价值。

圆桌讨论的焦点与意义

圆桌主题“Transformer时代的跨异构芯片编译优化”指向当前AI编译器的核心难题:如何让Transformer模型在不同芯片架构上高效执行。该讨论汇集了来自上海交大、中科院计算所、微软亚研和智源研究院的嘉宾,覆盖学术与工业视角,有助于厘清跨异构编译的技术路线和生态协作方向,值得关注后续可能形成的共识或开放问题。

参与须知与资源链接

活动时间为7月6日13:30-18:00,地点在北京市海淀区科学院南路6号中科院计算所一层报告厅,现场仅开放200个名额,需提前报名。主办方HyperAI超神经运营着国内活跃的AI编译器社区,协办方MLC.AI社区提供TVM中文文档和线上课程,参与者可通过这些资源在活动前后补充背景知识,提升交流效率。

❓

Q&A

2024年AI编译器技术沙龙的时间和地点是什么?

活动时间为2024年7月6日(周六)13:30-18:00,地点在中国科学院计算技术研究所。

本次技术沙龙的主要内容包括哪些主题?

主要内容包括MLCEngine、ElasticRoom、基于块抽象的深度学习编译系统和基于Triton的大模型算子库FlagGems等技术分享。

谁是本次活动的主办方和协办方?

活动由HyperAI超神经主办,OpenBayes贝式计算和MLC.AI社区协办。

参加活动需要提前报名吗?

是的,活动现场座位有限,建议尽早报名以锁定席位。

中国科学院计算技术研究所的历史背景是什么?

中国科学院计算技术研究所成立于1956年,是中国计算机科学技术研究的学术机构,曾研制成功我国第一台通用数字电子计算机。

圆桌讨论的主题是什么?

圆桌讨论的主题为Transformer时代的跨异构芯片编译优化。

🏷️

标签

➡️

继续阅读