本文探讨了语言处理中的词序问题，分析了句法依赖关系、可预测性与依存长度的关系。研究表明，词序受最小化依存距离与最大化可预测性之间的冲突影响，揭示了语言决策中的最低努力策略和有界理性。

对于在不同阿拉伯语方言上训练的transformer模型进行的分析发现，单词形态在较低和中间层次上学习，句法依赖在较高层次上被捕获。嵌入层的神经元是一词多义的，而中间层的神经元仅适用于特定属性。