该文综述绿色AI与大规模深度学习服务系统,指出生成式多用途模型推理的能耗和碳排放远高于专用模型,需重视GPU等资源优化。研究提出绿色计算框架,涵盖绿色指标、能效AI、能效计算系统和可持续应用,并总结模型架构、训练环境及硬件优化策略,以降低能耗、提升公平性。
人工智能、计算机视觉和自然语言处理的进展使得人工智能模型得到广泛应用。无服务器架构中托管AI模型并提供GPU访问的需求越来越高。这项调查总结了大规模深度学习服务系统中的新兴挑战和优化机会,为优化视角提供启示和创新作品。
完成下面两步后,将自动完成登录并继续当前操作。