本文介绍了一种基于改进的transformer网络结构的多语言模型，用于跨越英语、印地语、孟加拉语、卡纳达语和泰米尔语的Transliteration。该模型在精度方面优于现有模型，Top-1精度得分为80.7％，比最好结果提高了29.5％，语音准确性达到93.5％。