myrtle.ai VOLLO刷新梯度提升树推理STAC-ML纪录

Myrtle.ai的VOLLO推理加速器在梯度提升树STAC-ML基准测试中刷新纪录，p99延迟降低超30%，吞吐量提升至少5倍。该加速器运行于AMD Alveo V80LL加速卡，三个模型p99延迟均低于2微秒，最小模型每秒5000万次推理、延迟1.77微秒。VOLLO已支持实盘交易数十万小时，并应用于电信、网络安全及国防领域。