BriefGPT - AI 论文速递
·
AI 部署开销：瓦特数何以驱动成本？
💡
原文中文，约500字，阅读约需2分钟。
📝
内容提要
商业AI产品的通用性导致能源和碳排放增加，多用途生成式模型的成本高出若干数量级。应权衡效用与能源和排放成本。
🎯
关键要点
-
商业AI产品基于生成式、多用途AI系统，近年来越来越受欢迎。
-
这些系统的通用性导致能源和碳排放增加，环境付出了巨大代价。
-
首次对各类机器学习系统的持续推理成本进行了系统比较。
-
比较包括特定任务的微调模型和多任务的通用型模型。
-
以执行1000次推理所需的能源和碳排放作为部署成本进行度量。
-
多用途生成式模型的成本高出特定任务系统的若干数量级。
-
即使在控制模型参数数量时，多用途模型的成本仍然较高。
-
讨论了部署多用途生成型机器学习系统的当前趋势。
-
警示应权衡其效用与能源和排放上升之间的成本。
➡️
