文章指出，GPU池满载和队列增长并不必然意味着需要扩容，应先区分GPU处于“已分配”“忙碌”还是“产生有价值结果”的状态。团队需明确各工作负载的截止时间、运行时长、资源需求和可中断性，并定义有价值输出的标准。通过错峰调度可降低峰值需求，无需扩容即可按时完成任务。高GPU活动率并不代表有额外吞吐量，应通过代表性负载测试测量可持续容量。结合OpenCost等工作负载成本数据与服务遥测、结果记录，可计算“每个合格结果的成本”，在质量、延迟和成本之间权衡，选择延迟任务、优化批处理、调整部署、更换模型或扩容。最终目标是以可辩护的成本交付所需结果，并保留足够余量。