本文研究了大型语言模型，发现它们可以模拟核回归算法，并证明了在 Context prompts 上的贝叶斯推理可以被当作大样本上的核回归。实证研究发现，LLMs 中的注意力和隐藏特征与核回归的行为相匹配，为 ICL 领域中观察到的多种现象提供了见解。