Attention Mechanisms, Maximum Affine Partitioning, and Universal Approximation
原文英文,约100词,阅读约需1分钟。
📝
内容提要
本研究解决了单层自注意力和交叉注意力机制的逼近能力不足,提出将单头注意力视为输入域划分机制,证明其能够逼近任意连续函数,并扩展至Lebesgue可积函数。
🏷️