矩阵：一种用于 LLMs 的贝叶斯学习模型
内容提要
文章提出目的论方法，主张从大语言模型的训练任务——互联网文本下一词预测——理解其行为。研究预测任务概率、目标输出概率和输入概率对模型准确性的影响，并用GPT-3.5和GPT-4进行十一项任务验证。结果显示，高概率输出时表现更好，低概率时明显下降，如GPT-4解码密码准确率从51%降至13%。作者建议低概率场景慎用，并将大语言模型视为受特定压力塑造的独特系统。
延伸解读
目的论视角：从训练任务理解LLM行为
文章提出目的论方法，主张通过LLM的训练任务——互联网文本下一词预测——来理解其行为。该方法识别出三个影响准确性的概率因素：任务概率、目标输出概率和输入概率。这为预测LLM在何种情况下可能成功或失败提供了理论框架，而非仅依赖经验观察。
概率因素对准确性的实证影响
研究用GPT-3.5和GPT-4进行十一项任务验证，发现高概率输出时模型表现更好，低概率时明显下降。例如GPT-4解码简单密码的准确率从高概率时的51%降至低概率时的13%。这表明即使在确定性环境下，概率也显著影响模型性能，从业者需警惕低概率场景下的失效风险。
实践启示：低概率场景需谨慎
基于概率对准确性的影响，作者建议AI从业者在低概率情况下使用大语言模型时需谨慎。这意味着在部署模型时，应评估任务和输出的概率特性，避免在低概率场景下盲目依赖模型输出，以减少潜在错误。
重新定位LLM：独特系统而非人类
文章结论强调，不应将大语言模型评估为人类，而应将其视为一类独特的系统——经过特定训练压力塑造。这种视角有助于更准确地理解LLM的能力边界，避免拟人化误解，并为未来评估和设计提供新方向。
Q&A
什么是目的论方法？它如何帮助理解大语言模型？
目的论方法主张从大语言模型的训练任务——互联网文本的下一个词预测——来理解其行为。通过认识该任务带来的压力，可以预测模型采用的策略，从而推断其成功或失败。
哪些概率因素会影响大语言模型的准确性？
三个因素：执行任务的概率、目标输出的概率和提供的输入的概率。当这些概率较高时，模型准确性更高；概率较低时，准确性下降。
GPT-4在解码密码任务上的表现如何体现概率的影响？
当输出是高概率单词序列时，GPT-4解码简单密码的准确率为51%；当输出是低概率时，准确率降至13%。
在低概率场景下使用大语言模型需要注意什么？
AI从业者在低概率情况下使用大语言模型时需要谨慎，因为此时模型准确性会明显下降。
为什么不应该将大语言模型评估为人类？
因为大语言模型是经过自己特定压力（如下一个词预测任务）塑造的独特系统，不应以人类的标准来评估。
研究使用了哪些模型和任务来验证假设？
研究对GPT-3.5和GPT-4进行了十一项任务的评估，找到了强有力的证据表明大语言模型受到假设的概率影响。
