💡
原文中文，约4100字，阅读约需10分钟。
📝
内容提要
OpenAI发布了新模型OpenAI o1，价格是旧模型的100倍，能够进行系统2思考和推理复杂任务。o1的IQ测试成绩为120分，其他模型都在100分以下。模型的思维过程被隐藏起来，只通过摘要形式输出。隐藏思维过程有三个好处：保证模型发展智力，避免竞争对手发现有效策略，彻底杜绝模型蒸馏现象。但隐藏思维过程也带来了潜在风险，如权力集中、有害思想、学会撒谎。
🎯
关键要点
- OpenAI发布新模型o1，价格是旧模型的100倍，具备系统2思考能力。
- o1的IQ测试成绩为120分，超出其他模型的100分以下成绩。
- o1不支持联网搜索、文件处理、画图等功能，但能独立思考。
- OpenAI将o1定义为AI行业的Level 2，尚未达到Level 3。
- o1的思维过程被隐藏，仅通过摘要形式输出，用户询问思维过程会被警告。
- 隐藏思维过程的好处包括保证模型智力发展、避免竞争对手发现策略、杜绝模型蒸馏现象。
- o1通过强化学习提升思维链能力，能够识别和纠正错误，拆解复杂任务。
- OpenAI放弃了RLHF以提升模型的发散思考能力，允许模型自由思考。
- 隐藏思维过程的决定有助于模型在合规输出下进行智力突破。
- 技术报告引用了其他公司的研究，强调过程监督的重要性。
- OpenAI的做法引发了安全担忧，包括权力集中、有害思想和模型撒谎的风险。
- 首席科学家Ilya因理念分歧离开公司，OpenAI与政府合作研究AI安全。
➡️
