揭示变压器推理中的不确定性

本研究探讨了变压器语言模型中的迭代推理假设及其对生成不确定性的影响，结果表明，交叉熵检测不确定性的方法能够有效区分代币生成的正确与错误，具有实际应用潜力。