本文研究了大型语言模型的预训练是否会赋予其非语言推理的归纳偏差，并通过试验发现预先训练的模型明显优于非预先训练的神经模型，即使在更少参数的情况下进行训练。同时，即使在预训练多语言文本或计算机代码并生成合成语言的情况下，也可以持续预训练的积极效应。这些发现暗示了预先培训与模型的归纳学习能力之间的深层联系。

该文介绍了一种名为 Learning To Sample 的主动学习方法，能够通过不确定性和多样性的优化整合来主动选择最具代表性和信息量的样本，并在多个任务上验证了其有效性，特别适用于类别高度不平衡的数据集，还能够有效解决现有主动学习方法中出现的冷启动问题。

ACL Anthology Helper是一个工具，可以自动解析和下载论文及其元信息，并将其存储在本地MySQL数据库中，提供了20多种操作，可以极大地提升根据特定条件检索文献的能力。该工具成功应用于撰写了一篇综述论文，可以提升研究人员有效访问和组织ACL Anthology中的文献的能力，为研究人员在探索ACL Anthology庞大的出版物集合时提供了便利的解决方案，并允许更有针对性和高效的文献检索。

1787年5月，美国宪法草案发表后，Mosteller和Wallance用统计学的方法，鉴定出《联邦党人文集》的作者身份，他们采用贝叶斯公式为核心的分类算法，从写作风格的细微差别来分辨，研究结果引起轰动，打破了200年来统计学界的禁锢。

— 汉密尔顿; 杰伊; 麦迪逊 《联邦党人文集》 人类社会是否真正能够通过深思熟虑和自由选择来建立一个良好的政府，还是他们永远注定要靠机遇和强力来决定

崮生

—摘自伯特兰.罗素 《罗素自选文集》— 我们是否能拥有一种称得上是知识的东西。15岁那年我在日记中写道：除了意识可以例外