本文提出了一种无词汇编码器，通过将文本转化为像素生成输入嵌入，增强预训练语言模型。实验结果表明，该方法在机器翻译和跨语言迁移方面显著优于基于分词的方法，同时提升了单语模型的多语言能力，并减少了解码延迟。