AI周报#346——719份数学手稿、2个西方开源模型、又一位安全研究员辞职

AI周报#346——719份数学手稿、2个西方开源模型、又一位安全研究员辞职

💡 原文英文,约2300词,阅读约需9分钟。
📝

内容提要

OpenAI发布719份未公开前沿模型生成的数学手稿,含Lean形式化证明,引发透明度讨论。Mistral与Reflection AI推出开源权重模型,对标中国开源模型。OpenAI安全研究员David Robinson辞职,批评公司文化忽视安全。谷歌开放SynthID检测工具,OpenAI在欧盟为ChatGPT文本加水印。Anthropic发布Claude Haiku 5.5,价格大降90%。

🔎

延伸解读

数学手稿公开的透明度争议

OpenAI公开了719份由未发布前沿模型生成的数学手稿,涵盖372个主题族,并包含Lean形式化证明。但AGMAI此前建议实验室披露模型名称、提示和计算成本,并停止在专有模型上测试高级问题。Gizmodo指出最后一条建议未被遵守。这引发讨论:公开结果虽促进知识共享,但若模型不公开,社区无法验证和复现,可能加剧对AI数学研究的信任危机。

西方开源模型追赶中国

Mistral和Reflection AI相继发布开源权重模型,明确对标中国主导的开源生态。Mistral Large 4(Le Chonk)拥有1万亿参数,主打编码和网络防御;Reflection的Beam采用混合专家架构,总参数5010亿,激活230亿,在高级推理基准上匹配GLM-5.2,且推理计算量少3-4倍。但两者均未达到Kimi K3或GLM-5.3的水平,显示西方开源模型仍在追赶。

安全研究员辞职与公司文化反思

OpenAI安全研究员David Robinson辞职并发表文章,批评公司文化忽视安全。他指出公司依赖试错发布模型,随着系统能力增强,失败规模会扩大。他建议前沿实验室像核电站或机场一样运行,具备多层冗余和周密规划,并呼吁加强外部安全激励。这已是近期第二起知名安全研究员离职事件,凸显AI安全治理与商业压力之间的深层矛盾。

水印与模型定价动态

谷歌向公众开放SynthID检测工具,OpenAI将在欧盟为ChatGPT文本添加水印以符合AI法案。同时,Anthropic发布Claude Haiku 5.5,短上下文价格直降90%,每百万输入令牌0.10美元,与OpenAI GPT-6 Luna持平。但超过10万令牌后价格上升,且新分词器使相同文本计为约30%更多令牌,实际节省约75%。这反映监管合规与成本竞争正同步加速。

❓

Q&A

OpenAI 公开的数学手稿具体包含哪些内容?

OpenAI 于2026年10月6日公开了719份数学手稿,覆盖372个主题族,其中许多证明包含Lean形式化。此外还有10份模型推理总结、以ChatGPT Pro使用量表示的算力估算,以及尝试问题的统计数据。这些结果由未公开的内部前沿模型生成。

Mistral 和 Reflection AI 发布的开源模型有什么特点?

Mistral发布了Mistral Large 4(昵称Le Chonk),是1万亿参数的多模态模型,针对编码、网络防御及制造、金融、电气工程任务优化,号称是中国以外最强大的开源权重模型。Reflection AI发布了Beam,是5010亿总参数、230亿激活参数的混合专家文本模型,预训练于23.8万亿token,上下文窗口100万token,推理算力比领先西方开源模型少3-4倍。

David Robinson 为什么从 OpenAI 辞职?

David Robinson是OpenAI安全研究员,在职三年半,曾主导起草现行Preparedness Framework并监督12次前沿发布的安全报告。他于2026年10月3日在《大西洋月刊》发表文章,认为OpenAI文化已破裂,对越来越强大的系统不够谨慎。他批评公司的发布模式依赖试错,必然导致周期性失败,且规模随系统能力增长而扩大。他建议前沿实验室应像核电站或繁忙机场一样,具备多层冗余和周密规划,并呼吁加强对齐工作及外部安全激励。

Google 的 SynthID Detector 是什么?现在公众可以使用吗?

SynthID Detector是Google的AI生成内容检测工具,基于2023年推出的SynthID水印系统。用户可上传文件检查是否由AI生成。该工具此前仅限特定记者、媒体专业人士和研究人员使用,现已向公众开放。SynthID已嵌入Nano Banana、Veo、Lyria、Gemini等Google产品,OpenAI、Nvidia、Kakao也支持,Apple据称即将加入。Google还在Gemini应用和Chrome中集成了验证功能,目前每天有100万次验证请求。

Anthropic 的 Claude Haiku 5.5 价格降低了多少?具体定价如何?

Anthropic于2026年10月7日发布Claude Haiku 5.5,对10万token以内的提示降价90%。短上下文层级每百万输入token收费0.10美元,输出0.50美元,缓存读取0.01美元,五分钟缓存写入0.125美元。超过10万token后,输入0.50美元、输出2.50美元,降价50%。新分词器使相同文本计为约多30%的token,但整体工作负载平均便宜约75%。批量处理再打五折。

OpenAI 在欧盟为 ChatGPT 文本添加水印是怎么回事?

OpenAI于2026年10月宣布,将开始为欧盟地区的ChatGPT和Codex文本添加不可见水印,以遵守8月2日生效的欧盟AI法案透明度规则。该措施将在未来几周内覆盖欧盟所有计划的合格用户;全球API开发者可立即为部分模型开启,默认关闭。

🏷️

标签

➡️

继续阅读