Myrtle.ai的VOLLO推理加速器在梯度提升树STAC-ML基准测试中刷新纪录,p99延迟降低超30%,吞吐量提升至少5倍。该加速器运行于AMD Alveo V80LL加速卡,三个模型p99延迟均低于2微秒,最小模型每秒5000万次推理、延迟1.77微秒。VOLLO已支持实盘交易数十万小时,并应用于电信、网络安全及国防领域。
完成下面两步后,将自动完成登录并继续当前操作。