研究表明，简单架构通过定位和语义机制学习解决方案，并在样本复杂度增加时展现机制转变，证明点乘注意层在数据充足时的优势。

该实验研究了可训练的相同结构和低秩的非线性自注意层的学习情况，证明了简单架构能够实现解决方案。实验揭示了随着样本复杂度增加，从定位机制到语义机制的转变，并证明了点乘注意层在具备足够数据的情况下的优越性。