语言模型更像图书馆还是图书管理员吗？图书技术主义，新问题参考和 LLM 的态度
内容提要
本文综述大型语言模型的能力与局限：它能生成流畅文本、辅助文献回顾、代码开发与科学写作，但依赖庞大且可能偏颇的数据集，并带来伦理困境。文章主张重新审视LLMs的实际运作，以更高科学精度引导哲学探讨与公众话语，并讨论其理解与意向性、语境理解不足及偏见适应等问题，认为LLMs既是科学进步的助力也是边界，应推广简化其使用的工具与方法。
延伸解读
LLMs 的能力与局限并存
文章指出，大型语言模型在生成流畅文本、辅助文献回顾、代码开发和科学写作等方面表现出色，能加速科研进程。然而，它们依赖庞大且可能偏颇的数据集，并带来伦理困境。这种双重性意味着，LLMs 既是科学进步的助力，也是其边界，读者需理性看待其实际效用。
理解与意向性：实用主义视角
针对 LLMs 是否具有“真正”理解和意向性的争议，文章从实证和理论角度提出实用观点，讨论在何种情况下将心理状态归因于 LLMs 具有哲学背景。这提示我们，与其纠结于拟人化标签，不如关注这些归因在技术应用和社会讨论中的实际意义。
语境理解与偏见适应仍是短板
实验发现，当前 LLMs 在需要二进制推断的对话中表现平庸，理解语境的能力有限，需进一步研究以适应更贴合人类意图的对话模式。此外，在语言偏见适应方面，LLMs 与人类存在相似性，但在情境学习环境下差异明显，说明其社会交互能力尚不成熟。
推广简化工具，引导公众话语
文章主张更广泛地了解和推广 LLMs 及简化其使用的工具和方法，以人性化技术并克服当前瓶颈。同时，呼吁以更高的科学精度重新审视 LLMs 的实际工作，引领哲学探索和公众话语，避免被科幻意象误导，从而更务实地评估其社会影响。
Q&A
大型语言模型在科学研究中能发挥哪些作用？
大型语言模型能在不同学科领域加强科学研究，例如通过总结大量出版物加速文献回顾，通过自动语法纠正提升代码开发，以及优化科学写作过程。它们还能帮助模拟复杂生物序列，并解析社会科学中的大规模定性数据。
大型语言模型存在哪些主要局限和挑战？
大型语言模型面临挑战，包括依赖庞大且有时偏颇的数据集，以及出于使用而引发的潜在伦理困境。此外，它们在理解语境方面能力有限，在完成只需要二进制推断的对话时表现平庸，需要进一步研究如何适应更贴合人类意图的对话模式。
语言模型在理解语境和人类意图方面表现如何？
研究表明，目前的LLMs模型在完成只需要二进制推断的对话时表现平庸，需要进一步研究如何使得LLMs适应更贴合人类意图的对话模式。不过，语言模型仅通过文本训练，仍然可以推断和表示产生语境的人的代理人属性，包括细粒度的交际意图和抽象的信仰和目标。
语言模型在偏见适应方面与人类有何异同？
通过对实验文本进行语言模式的分析，发现大型语言模型在语言偏见的适应方面与人类存在一定的相似性，但是在情境学习的环境下，大型语言模式与人类的偏见适应存在差异。
如何从哲学角度看待大型语言模型的理解和意向性？
文章从实证和理论的角度提出了对LLMs中“真正”的理解和意向性的实用观点，并讨论了在何种情况下将心理状态归因于LLMs对于这一日益重要的技术在社会中具有实用的哲学背景。同时，文章旨在提倡对大型语言模型及其相关系统的实际工作进行重新审视，追求更高的科学精度以引领关于人工智能的哲学探索和公众话语。
大型语言模型与引文分析之间有哪些相互促进的关系？
文章综述了LLMs与引文分析之间的相互关系，包括引文分类、基于引文的摘要和引文推荐等任务，以及通过引文预测、网络结构信息和文献间关系等手段来改进LLMs的文本表示，并提出了进一步研究LLMs和引文分析相结合的潜在方向。
