文本生成可解释性中的挑战与机遇
原文中文，约300字，阅读约需1分钟。发表于：。解释性在自然语言处理中的必要性随着大型语言模型的突出地位的不断提升而增加。该论文概述了在属性解释性方法的开发和评估过程中出现的 17 个挑战，包括词条化、定义解释相似性、确定词条重要性和预测变化度量、人类干预的水平以及适合的测试数据集的创建。该论文展示了如何将这些挑战交织在一起，并提出了发展概率词级解释性方法以及将人类纳入解释性流程中来得出关于解释性方法的可靠结论的新机会。
这篇论文讨论了自然语言处理中解释性的必要性和挑战，提出了17个挑战，包括词条化、定义解释相似性、确定词条重要性和预测变化度量等。作者还提出了发展概率词级解释性方法和将人类纳入解释性流程的新机会。
