本文介绍了从维基百科数据中创建特定语言BERT模型的自动化流程，并引入了42个新的模型。评估结果显示，这些特定语言模型在某些语言方面有显著改进。初步结果为了解特定语言模型的最佳条件提供了第一步。