量子位的研究表明，AI在工程优化中进入“迭代优化”时代。新发布的Agent Benchmark测试强调AI需在反馈中自我修正，像工程师一样寻找最优解。研究发现，AI的改进难度随时间增加，深度比宽度更重要。未来，AI将与人类研究员协作，自动优化复杂系统，推动生产力变革。

本文介绍了PREDICT方法，旨在提高从用户交互中推断人类偏好的精确性和适应性。PREDICT通过迭代优化推断的偏好、将偏好分解为组成部分以及在多个轨迹中验证偏好来实现。研究表明，PREDICT在不同环境中比现有基线提高了66.2%（网格世界）和41.0%（PLUME）的准确性。

大型语言模型（LLMs）在各领域展现出惊人能力，但输出质量问题凸显。为解决此问题，研究人员提出Self Refine技术，模仿人类思考和写作过程，通过迭代优化提升LLMs输出质量。Self Refine具有单模型架构、无需额外训练、提示工程的灵活应用、历史感知能力和适应性强等特点。通过一轮的Feedback+Refine，LLM输出质量显著提升。然而，Self Refine存在计算开销、循环推理、初始提示质量和停止条件的局限性。

TSLLM是一种结合了AlphaZero方法和大语言模型的树搜索训练增强框架，通过学习价值函数提供可靠的搜索中间价值评估。实验证明TSLLM在数学推理、逻辑推理和决策推理等任务上表现良好。文章还讨论了树搜索算法的适应性和扩展性，并验证了迭代优化可以进一步提升大语言模型的能力。