The Impact of Token Granularity on Surprise Prediction Ability in Language Models

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究探讨了语言模型中标记粒度对惊讶度预测的影响,提出了一种新方法。结果表明,标记粒度显著影响预测能力,尤其是8,000词汇量的标记最具预测性,对认知建模应用具有重要意义。

🏷️

标签

➡️

继续阅读