Qwen 3.8 Flash Next:101 TPS + 320K 上下文

Qwen 3.8 Flash Next:101 TPS + 320K 上下文

💡 原文中文,约500字,阅读约需2分钟。
📝

内容提要

单台懒猫AI算力舱优化Qwen 3.8 Flash Next,Decode达100-102 TPS,Prefill 2070-2609 TPS,TTFT 5K 1.9s。通过YaRN技术将KV Cache调至16GB,上下文从265K扩展至320K,性能几乎不变,Edit Decode反升。72小时调优后,将部署图形化程序供用户使用。相比两台DGX GB10,算力舱因FP4算力翻倍、显存直连更快,单台即可实现100+ TPS。

🏷️

标签

➡️

继续阅读