💡
原文中文，约2800字，阅读约需7分钟。
📝
内容提要
Redis 创始人 Salvatore Sanfilippo 对 AI 发展进行了反思，提出八个观点。他认为大语言模型（LLM）已超越“随机鹦鹉”的阶段，思维链和强化学习推动了模型能力的提升。程序员对 AI 的态度发生了变化，尽管 LLM 的架构未变，但其能力已显著增强。未来 AI 面临的挑战在于如何避免潜在风险。
🎯
关键要点
- Salvatore Sanfilippo 对 AI 发展进行了反思，提出八个观点。
- 大语言模型（LLM）已超越“随机鹦鹉”的阶段，表现出对概念的内部表征。
- 思维链被认为是一个被低估的突破，帮助模型在回答前先整理思路。
- 算力扩张的瓶颈被打破，模型可以通过可验证奖励进行自我提升。
- 程序员对 AI 的态度发生了转变，越来越多的人认可 AI 的辅助作用。
- Transformer 可能不是唯一的架构，AGI 可能通过多种方式实现。
- 思维链没有改变 LLM 的本质，架构和训练目标依然保持不变。
- ARC 测试的结果反转，证明 LLM 在抽象推理能力上取得了进展。
- 未来 20 年 AI 的根本挑战是避免潜在的灭绝风险。
➡️
