本文介绍了一种基于压缩后缀树的语言模型，具有紧凑的表示形式和高效查询能力。该模型在构建时间和内存使用上有所增加，但通过优化可实现高达2500倍的查询提速，并在大规模语料库中与KenLM算法相比更具竞争力。

后缀解码：一种无模型方法来加速大型语言模型推理
BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 ·
👤 个人中心
在公众号发送验证码完成验证