InftyThink方法通过将推理转变为迭代过程，突破了大语言模型在长上下文推理中的计算复杂性和性能限制，实现了无限推理深度和有限计算成本。实验结果表明，该方法在多个基准测试中提升了性能并降低了计算开销。

本文研究了在给定训练数据集中寻找预测模型的问题，并提出了一种迭代过程来改进模型和非线性特征。通过有限次迭代，非线性特征转化为原始空间上的多项式。在无限次迭代的极限情况下，导出的非线性特征形成一个联想代数。每次迭代都解决一系列凸问题，逐渐提高模型的似然性，同时将模型参数空间的维数限制为一个可控制的值。