Ilya宣判后GPT-5被曝屡训屡败,一次训数月,数据要人工从头构建

💡 原文中文,约4300字,阅读约需11分钟。
📝

内容提要

OpenAI的GPT-5训练进展缓慢,目前已进行两轮训练但效果不理想,需要人工重建数据,成本高达数亿。尽管投资者对未来抱有期待,发布可能推迟至2025或2026年。同时,OpenAI的新系列o1和o3在性能上取得显著进展。

🎯

关键要点

  • OpenAI的GPT-5训练进展缓慢,已进行两轮训练但效果不理想。
  • 每次训练长达数月,需人工重建数据,成本高达数亿美金。
  • 投资者对GPT-5的未来抱有期待,但发布可能推迟至2025或2026年。
  • OpenAI正在调整战略,推出o1和o3系列以应对GPT系列进化速度放缓的问题。
  • GPT-5的预期很高,能够进行科学探索和完成复杂人类任务。
  • GPT-5的开发已超过18个月,内部代号为猎户座Orion。
  • GPT-5的训练成本巨大,公共资源数据消耗殆尽,需要从头构建数据。
  • o3系列在ARC-AGI测试中取得显著成绩,准确率达到91.5%。
  • o3的核心机制通过LLM在token空间内搜索和执行,实现知识重组。
  • o3在一些简单任务上仍然失败,表明与人类智能存在根本差异。
  • OpenAI引入慎重对齐的对齐方式,提高模型安全性,o1在安全基准上表现优异。
➡️

继续阅读