本文介绍了一种名为Moonbeam的变换器模型，旨在解决符号音乐建模中的数据效率和模型能力不足问题。Moonbeam通过创新的标记化方法和多维相对注意力机制，超越了其他大型预训练模型，推动了音乐生成研究的发展。