LogSumExp和Softmax的泰勒展开

📝

内容提要

最近看到论文《The Key to Going Linear: Analysis-Driven Transformer Linearization》里边直接对Softmax做近似展开来线性化At...

➡️

继续阅读