BriefGPT - AI 论文速递 ·

Power- and Fragmentation-aware Online Scheduling for GPU Datacenters

💡 原文英文，约100词，阅读约需1分钟。

📝

内容提要

本文探讨了GPU数据中心的在线调度问题，提出了一种新策略PWR，旨在减少GPU碎片化和功耗，平衡资源利用与能源效率，以应对未来任务到达时间的不确定性。

🏷️

早报｜苹果CEO特努斯回应折叠屏迟到：不做半成品/长鑫存储利润率超三星海力士/36.9万，特斯拉Model Y高性能版上市
陶哲轩等25位菲尔兹奖得主联名警告，AI公司把攻克数学难题当作模型评测基准，可能冲击数学研究与知识传承。其他科技动态：苹果CEO回应折叠屏迟到，称不赶时间...
同一套GPU多服务2.5倍用户，关键不是换模型
NVIDIA测试显示，四张B200运行Nemotron 3 Ultra，在每用户50 Token/s延迟目标下，启用NIM优化栈后并发承载从718提升至1...
Apple is reportedly working on iPhone game controllers
Bloomberg's Mark Gurman says Apple is developing two game controllers for...
Happy, those able to know the causes of things
[This is a guest post by Nestor Guillen, crossposted from his blog. This blog...
The Units’ Digital Stimulation is synthpunk perfection
The Units are a band I discovered in part thanks to No Dogs in Space. During ...
Chip Huyen 讲解如何在不添置新硬件的情况下降低推理成本
Chip Huyen在P99大会上指出，模型训练是一次性成本，推理成本则反复发生，比例可达1:10至1:100。她建议关注首token延迟和goodput...