本文探讨了如何通过调整通用语言模型的训练分布，利用有限的领域特定数据构建专业模型。采用聚类重要性采样方法，从通用数据集中根据领域数据的频率进行采样，以提高语言建模的准确性。此外，文章介绍了如何通过地理位置知识改善Siri对本地兴趣点名称的识别能力，提出了基于地理位置的语言模型。