我们如何使用OpenBMC支持全球GPU上的AI推理
原文英文,约1800词,阅读约需7分钟。发表于: 。This is what Cloudflare has been able to do so far with OpenBMC with respect to our GPU-equipped servers
Cloudflare宣布推出Workers AI,允许开发人员在Cloudflare的网络上运行无服务器GPU加速的AI推理。他们使用开源固件堆栈OpenBMC来管理基板管理控制器(BMCs)并调整固件以适应新的GPU。他们通过细调风扇PID控制器来管理温度波动和功耗。他们还通过SMBus协议与GPU建立通信。OpenBMC的应用和配置使设备的配置和操作变得简单。Cloudflare利用OpenBMC来获得对服务器配置的控制和灵活性。他们强调了开源固件对于修改服务器固件而不受传统设备更新周期限制的重要性。