ARTHURCHIAO'S BLOG
·
[译] 关于 AI 下半场的思考：技术/模型篇（2025）
💡
原文中文，约8100字，阅读约需20分钟。
📝
内容提要
本文讨论了人工智能发展的新阶段，强调从“解决问题”转向“定义问题”。提到强化学习的泛化能力和预训练的重要性，并指出现有评估方法与现实世界脱节，限制了AI在经济等领域的影响。未来需重新审视评估方式，以提升AI的实际效用。
🎯
关键要点
- 人工智能发展进入新阶段，重点从解决问题转向定义问题。
- 强化学习的泛化能力和预训练的重要性被强调。
- 现有评估方法与现实世界脱节，限制了AI在经济等领域的影响。
- 未来需要重新审视评估方式，以提升AI的实际效用。
- 过去几十年AI主要集中在新的训练方法和模型的提出。
- 强化学习终于能够泛化，能够用语言和推理完成各种任务。
- 评估将比训练更重要，需思考如何衡量进展。
- 上半场专注于构建新的模型和方法，评估和基准测试是次要的。
- 训练组合拳包括大规模语言预训练、数据和计算的扩展、推理和行动。
- AI的思考和推理能力是实现泛化的关键。
- 下半场的游戏规则是开发针对现实世界效用的新评估设置。
- AI在许多领域超越人类，但对真实世界的影响仍然有限。
- 需要质疑现有的评估假设，创造新的评估方法以提高效用。
❓
延伸问答
人工智能发展的新阶段有什么特点？
人工智能发展的新阶段强调从解决问题转向定义问题，评估方法的重要性提升。
强化学习在人工智能中的作用是什么？
强化学习的泛化能力和预训练被强调，使其能够完成各种任务，成为实现人工智能的重要工具。
现有的评估方法存在什么问题？
现有评估方法与现实世界脱节，限制了人工智能在经济等领域的实际影响。
未来人工智能的评估方式应该如何改变？
未来需要重新审视评估方式，开发针对现实世界效用的新评估设置，以提升人工智能的实际效用。
为什么说评估将比训练更重要？
因为评估能够更好地衡量人工智能的进展和实际应用效果，而不仅仅是训练模型的能力。
人工智能在经济领域的影响如何？
尽管人工智能在许多领域超越人类，但对真实世界的经济影响仍然有限。
➡️
