世界纪录,Qwen 3.8 27B 单台 125 token

世界纪录,Qwen 3.8 27B 单台 125 token

💡 原文中文,约500字,阅读约需2分钟。
📝

内容提要

懒猫AI算力仓单台运行Qwen 3.8 27B模型,创下性能纪录:prefill速度3754 TPS,长代码解码125 TPS,八会话解码231 TPS,显存占用70GB。该模型为稠密型,专注写代码,单台可跑且不降智,相比Mac Studio,英伟达芯片prefill和并发性能更强,兼容CUDA,价格更优,现推出优惠促销。

🏷️

标签

➡️

继续阅读