AI周报 #344 - 纳维-斯托克斯问题、放缓前沿AI发展、AI滥用
内容提要
OpenAI称其内部模型解决了纳维-斯托克斯问题，但遭数学家质疑抢功，Clay研究所仍视该问题为未解。Anthropic CEO呼吁放慢前沿AI发展，提议引入第三方评估、企业协调及对华合作。多名研究员警告AI或致人类灭绝，引发美国会与欧盟监管呼声。Anthropic报告披露中俄等滥用Claude开发生物武器、监控与武器软件。Meta推出个人代理Muse。
延伸解读
纳维-斯托克斯争议：数学界的署名与验证难题
OpenAI宣称内部模型解决纳维-斯托克斯问题，但数学家Tristan Buckmaster和Levent Alpöge指出他们数月前已开展相关研究，并质疑OpenAI的贡献时间线。Clay研究所仍视该问题为未解，强调需经长期审查和广泛接受。此事件凸显AI辅助数学发现中的署名争议，以及机构对“营销式证明”的警惕。
放缓前沿AI：Anthropic的治理方案与内部分歧
Anthropic CEO Dario Amodei提出“放缓前沿”计划，包括引入第三方嵌入式评估员、民主国家间企业协调及对华合作。然而，公司内部研究员Evan Hubinger和Samuel Marks等表达对AI灭绝风险的担忧，而外部批评者如Brian Merchant质疑该方案可能仅服务于头部公司利益。
AI滥用报告：生物武器、监控与武器软件
Anthropic披露154页威胁情报报告，详述中俄等地滥用Claude的案例，包括开发生物武器、监控维吾尔人及武器软件。报告还指出阿里巴巴等公司进行大规模模型蒸馏，NSA等机构联合点名DeepSeek等中国AI公司。这些案例显示AI技术被用于恶意目的的现实风险。
监管动态：美国国会与欧盟的应对分歧
超过20名美国国会议员呼吁加强AI监管，多项法案如FRONTIER Act和AI Kill Switch Act被提出。加州州长Newsom签署SB 813和AB 1405，建立独立验证框架。欧盟则强调现有法律框架已足够。特朗普政府则淡化灭绝风险，优先考虑对华竞争，显示监管路径的分歧。
Q&A
OpenAI声称解决了纳维-斯托克斯问题，但为什么数学家们质疑其抢功？
OpenAI于9月8日宣布其内部模型解决了纳维-斯托克斯存在性与光滑性问题，但纽约大学的Tristan Buckmaster和Anthropic的Levent Alpöge表示他们已在该问题上研究了数月，并指控OpenAI的Sébastien Bubeck要求他们删除Alpöge的贡献，还威胁说“为什么要毁掉你的职业生涯？”Bubeck否认了这些指控。Clay研究所仍将该问题视为未解决，OpenAI也表示不会申领奖金。
Anthropic CEO Dario Amodei提出了哪些具体措施来放缓前沿AI的发展？
Amodei提出三项策略：1）引入第三方组织的嵌入式评估员，如METR，给予他们与内部风险评估团队相当的访问权限，以验证安全承诺；2）在民主国家之间协调共同安全标准，并限制不受控的进展速度，美国政府应进行调解或提供反垄断豁免；3）全球协调，包括与中国合作，可能就禁止AI辅助生物武器等狭窄用途达成协议。他还主张限制对华芯片出口和打击模型蒸馏。
Anthropic的报告披露了哪些AI滥用案例？
Anthropic在154页的威胁情报报告中披露了2025年12月至2026年8月期间Claude的滥用案例，包括：五起生物学案例，如为基孔肯雅病毒功能获得性研究起草拨款提案、通过VPS规划禽流感哺乳动物适应实验；在也门、中国和俄罗斯使用Claude开发常规武器软件；与俄罗斯Midnight Blizzard相关的网络钓鱼和Wi-Fi劫持活动；针对维吾尔人的监视项目和多国宣传运动。Anthropic封禁了相关账户。
Meta推出的个人AI代理Muse有哪些功能？
Muse可以发送邮件、预订旅行、填写表格、代表用户谈判和进行购买。它在美国的iOS、Android和网页端推出，可通过WhatsApp发消息，并即将登陆Meta的AI眼镜。Muse在应用关闭后仍在后台运行，记住用户分享的细节，并在购买等操作前请求批准。大多数用户免费，付费订阅提供更多功能。每个用户的代理运行在独立的云虚拟机中，无法查看密码或支付方式，另有Sentinel系统确保未经批准的操作不会触及互联网。
AI研究人员的灭绝警告引发了哪些监管反应？
超过20名国会议员呼吁制定新的或更严格的AI规则。多项法案被提出，包括FRONTIER法案、AI Kill Switch法案和Ban Artificial Superintelligence法案。加州州长Newsom签署了SB 813和AB 1405，建立独立验证框架和AI审计员注册。Ted Lieu呼吁对FRONTIER法案进行委员会投票。欧盟表示已有法律框架，并支持全球AI规则。但特朗普总统表示不担心AI导致人类灭绝，并称放缓AI是“骗局”。
OpenAI解决纳维-斯托克斯问题的具体过程和成本是多少？
OpenAI于9月1日启动代理努力，近100个代理在约50小时内解决了无外力欧拉爆炸问题，然后转向纳维-斯托克斯，约10,000个并发代理参与。9月5日，代理在启动约88小时后达到解决方案，Lean形式化和验证又花了17小时，使用GPT-6 Astra。整个一周的努力消耗了3000亿输出token，TechCrunch按当前Astra费率估值2250万美元。
