通过受限访问序列处理(RASP)探索变换器在组合泛化中的应用(在ReCOGS_pos中的应用)
📝
内容提要
该研究解决了变换器模型在组合泛化方面的表现不足,尤其是COGS基准测试报告的0%准确率。通过引入受限访问序列处理(RASP),作者证明变换器编码器-解码器能够系统性地处理ReCOGS_pos任务,并在多项测试中达到了100%的语义精确匹配,显示出该任务不需要分层或树结构解决方案。
➡️