BabyHGRN：探索使用RNN进行语言模型的样本高效训练

本研究解决了低资源语言建模场景中对传统变换器模型的替代方案的需求。通过使用新提出的RNN架构HGRN2，实验结果表明，BABYHGRN在BLiMP、EWoK、GLUE和BEAR基准测试中超越了变换器模型，特别是在资源受限环境中，展示了RNN模型的可行性和潜在影响。