堆栈注意力的 Transformer

BriefGPT - AI 论文速递 ·

本文提出了一种利用可微分的基于堆栈的注意力机制来增强transformer模型在无上下文语言任务中的建模能力的方法。通过添加基于堆栈的注意力机制，可以提高模型的可解释性，并能够建模一些但不是全部确定性的无上下文语言。

transformer transformer模型可微分可解释性基于堆栈的注意力机制无上下文语言任务

原文中文，约300字，阅读约需1分钟。