内容提要
麻省理工学院林肯实验室自2018年起开展LAICS调查,持续追踪商用AI加速器,比较其峰值性能与功耗。最新论文涵盖120多款加速器,分析架构选择与性能提升来源,帮助政府赞助方和实验室了解AI硬件格局,为采购决策提供参考。
延伸解读
调查的持续性与数据挑战
LAICS调查自2018年启动,已发布六篇论文,追踪的加速器从57款增至120多款。团队主要依据公开数据比较峰值性能与功耗,但部分企业不愿公开这些数据,给调查带来困难。为保持更新,负责人每天进行新闻和引用搜索,以获取最新技术文章、公司公告和行业演示。
加速器类型与适用场景
文章指出AI加速器包括CPU、GPU、ASIC、FPGA和数据流加速器等。CPU适合通用计算,ASIC专用于特定任务,而数据流加速器、FPGA和GPU更灵活,可配置用于多种工作负载。不同类型在效率和性能上各有差异,LAICS的目标是调查市面技术并比较,以找出适合特定需求的最佳加速器。
性能提升与架构分析
2022年的论文探究了性能提升来源,发现主要来自更小、更密集的晶体管设计以及使用更低数值精度(即计算更少有效数字)。最新论文则分析不同架构选择,研究增加每处理器核心数或并行性能等组件如何改变系统。这些分析有助于理解硬件演进的具体技术路径。
对采购与研究的实际价值
LAICS调查帮助政府赞助方和实验室同事更好地理解AI加速器格局,从而做出更优的研究和采购决策。该调查还用于确定LLSC未来系统采购应考虑哪些GPU,既惠及赞助方和任务项目,也惠及所有LLSC用户。负责人表示,林肯实验室作为无偏见的技术顾问,选择正确技术非常重要。
Q&A
LAICS是什么?它的主要目的是什么?
LAICS是林肯AI计算调查(Lincoln AI Computing Survey)的缩写,由麻省理工学院林肯实验室超级计算中心自2018年起开展。其主要目的是持续追踪商用AI加速器,比较它们的峰值性能和峰值功耗,帮助政府赞助方和实验室了解AI硬件格局,为采购和研究决策提供参考。
AI加速器有哪些主要类型?它们之间有什么区别?
AI加速器主要类型包括:中央处理器(CPU)、图形处理器(GPU)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)和数据流加速器。CPU可用于通用计算,ASIC只能执行非常特定的任务,而数据流加速器、FPGA和GPU更灵活,可配置用于多种工作负载。不同设计的加速器在效率和性能上有所不同。
LAICS调查如何比较不同的AI加速器?
LAICS团队使用的主要比较指标是峰值性能和功耗,然后按加速器是芯片、卡还是系统进行分类。所有数据均来自公开来源,但有些公司倾向于保密其性能和功耗数据,这给调查带来挑战。
LAICS调查的规模是如何演变的?
LAICS的第一篇论文研究了57款加速器,而最新的一篇论文涵盖了超过120款加速器。调查规模随着AI加速器数量的增长而扩大。
LAICS调查发现了AI加速器性能提升的哪些来源?
2022年发表的论文调查了性能提升的来源,发现性能提升源于更小、更密集的晶体管设计以及使用更低的数值精度(即计算更少的有效数字)。
LAICS调查对林肯实验室的采购决策有什么帮助?
LAICS调查帮助许多赞助方和政府同事更好地理解AI加速器格局,并做出更好的研究和采购决策。该调查还有助于确定LLSC未来系统采购应考虑哪些GPU,不仅使赞助方和任务项目受益,也使所有LLSC用户受益。