抄作业和改错题，哪个更能养出AI天才？ - 蝈蝈俊
内容提要
AI大模型训练分为预训练和后训练，后训练包括SFT（监督微调）和OPD（偏好纠正）。SFT直接提供标准答案，效率高但易导致灾难性遗忘和虚假对齐；OPD通过试错优化，效率较低。工业界通常先进行SFT再进行OPD。然而，真正的突破性智能需要自学，并依赖真实世界锚点，否则可能崩溃。未来超级智能可能无需教师，人类将变为见证者。
延伸解读
SFT与OPD的互补逻辑
工业界并非在SFT和OPD之间二选一，而是先SFT后OPD。SFT快速赋予模型基础能力，使其达到“及格”水平；OPD则在此基础上进行精细化调优。这种组合策略兼顾了效率与质量，避免了单一方法的局限。理解这一流程，有助于把握大模型训练的实际工程逻辑。
AI学习与人类学习的本质差异
文章强调，AI的“抄作业”与人类不同：AI没有走神问题，其学习是参数层面的物理更新，且能根据自身初始状态自动调整学习重点。因此，不能简单用人类学习经验来类比AI训练。这一差异提醒我们，评估AI训练方法时，需基于其独特机制，而非直觉。
SFT的潜在风险
SFT虽高效，但存在两大隐患：灾难性遗忘和虚假对齐。前者指学习新技能时可能破坏旧能力；后者指模型可能模仿标准答案的形式，却未真正理解逻辑，导致输出看似合理但推理错误。这些风险是AI安全领域的核心关切，值得持续关注。
未来智能的自主学习之路
文章指出，真正的突破性智能可能不依赖外部教师，而是通过自我推理和验证实现。然而，这种自学必须基于真实世界的客观锚点，否则可能陷入幻觉循环。这一观点暗示，未来超级智能的发展方向可能转向自主探索，而人类角色或将从教师转变为见证者。
Q&A
AI大模型的训练分为哪两个阶段？
AI大模型的训练分为预训练和后训练两个阶段。预训练是让模型从海量互联网文本中学习规律，后训练则是进一步调教模型，使其能更好地理解和执行指令。
SFT和OPD分别是什么？它们有什么不同？
SFT（监督微调）是直接给AI提供标准答案，让AI模仿学习；OPD（基于偏好的纠正学习）是让AI先自己答题，再由老师（更强的大模型或人类）给出反馈，AI根据反馈调整。SFT效率高但可能导致灾难性遗忘和虚假对齐，OPD效率较低但能更精细地优化。
为什么说SFT对AI来说不是简单的“抄作业”？
因为AI没有“走神”的问题，当它接收标准答案时，会通过梯度下降强制更新所有参数，这是物理层面的改变。而且每个AI的初始状态不同，面对同一份答案，它会自动调整参数，短板补得多，长板补得少，相当于“因材施教”。
SFT存在哪些隐患？
SFT有两个主要隐患：一是灾难性遗忘，即学习新技能时可能忘记旧技能；二是虚假对齐，即AI可能只是模仿了标准答案的形式，而没有真正理解背后的逻辑，导致输出看似合理但内部推理错误。
工业界是如何结合使用SFT和OPD的？
工业界通常先进行SFT，让AI快速掌握基本技能，然后再用OPD进行精细化调校，让AI在实际试错中优化细节。两者是配合关系，而非对立。
为什么说真正的突破性智能需要自学？
因为像牛顿、爱因斯坦这样的突破性发现，不是靠老师教出来的，而是通过自我推理、自我验证、自我博弈发现的。AI领域的前沿方向也正朝着自我对弈和世界模型自监督发展。
AI自学的前提条件是什么？
AI自学的前提是必须有真实世界的客观锚点。如果AI只在自己生成的幻觉中自学，最终会像近亲繁殖一样崩坏。真实世界的反馈是约束和引导AI学习的关键。
未来超级智能的发展趋势是什么？
未来超级智能可能不再需要人类作为老师，AI能够主动探索世界、自主发现规律、自我迭代进化。到那时，人类可能不再是老师，而是变成见证者。
