本文提出了一种在跨领域少样本分类中学习表示的方法，通过构建度量空间来测量样本和类别原型之间的相似性，并通过双层优化框架提出了最大化优化核依赖性（MOKD）的方法。该方法能够学习与给定任务标记数据指示的聚类结构相匹配的类别特定表示。

本文将Transformer视为相互作用的粒子系统，描述了学习表示的几何特征，证明了表示中的粒子会在时间趋于无穷时聚集到特定的极限对象，这取决于值矩阵的谱。同时，在一维情况下，证明了自我关注矩阵收敛于低秩布尔矩阵。这些结果证实了在Transformers处理标记时会出现“leader”。

该研究提出了一种简单的预训练目标，通过学习表格数据来处理表格任务。该模型在基于表格的预测任务上表现出色，超过了竞争方法。研究还对模型的学习表示进行了质量分析，结果表明它可以理解复杂的表语义和数字趋势。

本文介绍了基于主动推理的深度强化学习理论，利用 Monte-Carlo 搜索和深度学习扩展此框架，实现更复杂任务的解决。实验表明，主动推理代理与奖励最大化代理的学习表示相似，但前者因动作选择导致数据不足。双方的认知价值是两者的差异。

本文将Transformer视为相互作用的粒子系统，描述了学习表示的几何特征，证明了表示中的粒子会在时间趋于无穷时聚集到特定的极限对象，这取决于值矩阵的谱。同时，在一维情况下，证明了自我关注矩阵收敛于低秩布尔矩阵。这些结果证实了在Transformers处理标记时会出现“leader”。