分词器设计对语言模型性能影响显著，但评估其质量仍具挑战性。研究表明，分词器在小模型上的评估无法可靠预测其在大模型上的表现。实验发现，分词器选择对英语任务影响较小，但在机器翻译中差异显著。为此，提出了与下游性能更相关的内在指标，并构建了评估框架以实现更可靠的分词器比较。

深度学习在人工智能中越来越重要，但传统的评估指标如准确率和损失无法全面反映模型的内部特性。内在指标关注模型的表示质量、复杂性、鲁棒性和可解释性，帮助研究人员构建更可靠和透明的AI系统。本文定义了内在指标的类型、测量方法及其在各领域的应用，强调其在提升模型性能和信任度方面的重要性。