CONTESTS: A Framework for Consistency Testing of Span Probabilities in Language Models
💡
原文英文,约100词,阅读约需1分钟。
📝
内容提要
本研究提出了ConTestS框架,解决语言模型概率估计的一致性问题。实验结果表明,Masked Language Models与自回归模型在预测一致性上存在显著差异,自回归模型的不一致性更为明显,为未来研究提供了指导。
🎯
关键要点
- 本研究提出了ConTestS框架,旨在解决语言模型在概率估计中的一致性问题。
- ConTestS框架通过统计测试评估多个完成功能和条件顺序下的分数一致性。
- 实验结果表明,Masked Language Models与自回归模型在预测一致性上存在显著差异。
- 自回归模型的不一致性更为明显,这为未来的研究提供了重要的指导。
➡️