本文研究了随机特征模型和Transformer的域外泛化能力。研究发现,对于小特征规模下的RF模型,在未见域泛化设置中,收敛到布尔情况下的最小度插值器。稀疏目标规模与小特征规模有关,对于q元数据标记的稀疏规模,如果数据嵌入了单位根,则RF模型学习到最小度插值器,否则可能不会。布尔情况和单位根泛化是学习过程中最小度插值器的特殊情况。整数和实数情况仍需进一步研究。
完成下面两步后,将自动完成登录并继续当前操作。