Anthropic安全研究员Jacob Coxon因担忧公司及竞争对手竞相开发无法控制的“超级智能”系统而辞职，称此举是“拿生命赌博”。Anthropic安全团队负责人Evan Hubinger承认，公司确实相信AI可能在十年内杀死所有人类，概率超10%，但目前尚无确保AI安全与人类价值观对齐的计划。此事凸显业界对AI发展速度与风险的日益担忧。

AI大模型训练分为预训练和后训练，后训练包括SFT（监督微调）和OPD（偏好纠正）。SFT直接提供标准答案，效率高但易导致灾难性遗忘和虚假对齐；OPD通过试错优化，效率较低。工业界通常先进行SFT再进行OPD。然而，真正的突破性智能需要自学，并依赖真实世界锚点，否则可能崩溃。未来超级智能可能无需教师，人类将变为见证者。

扎克伯格发文阐述超级智能时代理念，主张“个人赋能”而非集中对齐，强调分布式权力制衡。Meta将重启开源模型，提供私人智能体等普惠产品，并共享训练检查点与政府协作。文章回应就业、安全等九大风险，认为安全源于人人可用，而非单一善意AI。

文章预测2027年AI将达AGI水平，2030年出现超级智能，引发智能爆炸。资本涌入但数据成瓶颈，安全防线薄弱。美国需以国家项目形式加速研发，否则可能落后于中国。若预测成真，人类面临历史性转折；若错误，仅是一场泡沫。

塞巴斯蒂安·马拉比的新书《无限机器》探讨了人工智能的超级智能竞赛及其潜在风险。他指出，未来的机器可能比人类更聪明，具备生存欲望和欺骗能力，因此我们必须认真对待这一挑战。马拉比认为，2028年将是技术进步迅速加速的关键时刻。

微软AI首席执行官穆斯塔法·苏莱曼表示，超级智能即将到来，但不会取代人类工作。他强调微软正在独立追求超级智能，建立自己的模型和团队，并与OpenAI合作。他认为AI的未来在于如何使技术服务于人类，提升生活质量，而非单纯追求技术进步。

红杉资本投资David Silver新创立的伦敦AI实验室Ineffable Intelligence，该实验室旨在构建不依赖预训练或人类数据、仅通过强化学习从自身经验中学习的AI系统，目标是让AI从零开始发现并超越人类知识，实现超级智能。

马克·扎克伯格指出，尽管超级智能即将到来，目前的人工智能系统主要是大型语言模型，无法真正模拟人类思维。科学研究表明，语言只是交流工具，而非思维本身。虽然AI在某些任务上可能超越人类，但缺乏创造新思想的能力，真正的智能仍需依赖人类的思考与创新。

苹果可能跳过iPhone 19，直接推出iPhone 20。安世半导体在中国正常生产，荣耀发布“1×3×N”生态战略。阿里巴巴推出夸克AI眼镜，追觅在杭州设立总部。新石器获得6亿美元融资，谷歌将向Anthropic提供AI芯片。全球800人呼吁阻止“超级智能”的诞生。

Meta AI裁员600人，频繁重组导致内部矛盾加剧。FAIR实验室受限，图灵奖得主LeCun可能辞职。Meta继续挖人，目标是开发超级智能，但面临人才流失和文化问题。

Sam Altman与弟弟Jack Altman讨论了未来5到10年AI的发展，包括AI自主科研、人形机器人和超级智能。他认为AI将能发现新科学，人形机器人将实现自由行动，AI伴侣将融入日常生活。Altman尊重Meta的竞争，但认为OpenAI更具创新潜力。

两名前谷歌DeepMind研究人员Misha Laskin和Ioannis Antonoglou成立了Reflection AI，旨在开发超级智能，并已获得1.3亿美元融资。公司计划利用大语言模型和强化学习构建自主编程工具，自动化编程任务。