本研究提出内核循环技术，解决GPU标记生成中的同步开销问题，结合层级融合与语言模型，实验结果显示可实现最高2.2倍的加速，具有重要应用价值。

内核循环：消除同步边界以实现最佳推理性能
BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 ·
👤 个人中心
在公众号发送验证码完成验证