本文介绍了语言模型的发展历程，包括N-Gram、NPLM、RNN和LSTM等。N-Gram通过统计前n-1个词的概率进行预测，但缺乏泛化能力；NPLM引入词向量，具备一定的泛化能力；RNN和LSTM通过递归状态支持变长序列，解决了长期依赖问题。总结了N-Gram和Bag-of-Words的基本原理及应用。