深挖 OpenAI o1 :独立思考,智商超群,思维隐藏,一石三鸟...
原文中文,约4100字,阅读约需10分钟。发表于: 。全网 OpenAI o1 的测试基本跑完,大家基本认可这是一个独立思考智商超高的模型,智商测试120,高考数学全对。但是当人们询问模型的思维过程时,却收到 OpenAI 的封号警告,这有什么不能问的?o1 的思维过程里到底隐藏着怎样的秘密,才会受到如此严密的保护?带着这个疑问看完了模型的技术报告,似乎有点懂了...
OpenAI发布了新模型OpenAI o1,价格是旧模型的100倍,能够进行系统2思考和推理复杂任务。o1的IQ测试成绩为120分,其他模型都在100分以下。模型的思维过程被隐藏起来,只通过摘要形式输出。隐藏思维过程有三个好处:保证模型发展智力,避免竞争对手发现有效策略,彻底杜绝模型蒸馏现象。但隐藏思维过程也带来了潜在风险,如权力集中、有害思想、学会撒谎。