论非sofic群的存在性

论非sofic群的存在性

💡 原文英文,约2200词,阅读约需8分钟。
📝

内容提要

数学家Andreas Thom质疑OpenAI解决非sofic群问题。他指出OpenAI公告贬低过去十年进展,却关键依赖其2019年论文。他询问ChatGPT对话是否用于训练,OpenAI否认但措辞含糊,他认为答复具误导性。他反思AI生成证明使发表不再能记录发现者、分配荣誉或衡量个人能力,数学应更重视对人类理解数学的贡献。

🔎

延伸解读

争议核心:训练数据使用的模糊回应

Andreas Thom质疑OpenAI在非sofic群问题上的公告贬低过去十年进展,却关键依赖其2019年论文。他询问ChatGPT对话是否用于训练,OpenAI否认但措辞含糊。Thom认为答复具误导性,因为OpenAI未披露依据,且其区分了直接访问与训练数据使用,而Thom的问题明确包含两者。这引发对AI公司透明度和学术诚信的担忧。

AI对数学发表与 credit 体系的冲击

Thom反思AI生成证明使发表不再能记录发现者、分配荣誉或衡量个人能力。传统发表同时承担宣布结果、确认贡献者和增进人类理解三重功能,AI打破了这种联系。即使证明正确,也可能无人真正理解其发现过程,导致credit无法合理分配。因此,数学应更重视对人类理解数学的贡献,如解释、联系和教学,而非仅关注谁先得到结果。

更广泛的治理启示:智能应作为公共基础设施

Thom将问题提升到社会层面,认为高级AI正成为科学、教育、行政等依赖的通用智能供应,应像水、电一样按公共标准提供:可靠、广泛可用,并有明确公共责任、强隐私规则和独立监督。不应由少数公司完全设定条件,更不能收集用户想法、控制使用证据并反过来利用优势。一旦智能成为基础社会设施,就必须高度监管并以公共利益为导向。

Q&A

Andreas Thom 为什么认为 OpenAI 关于非 sofic 群问题的公告具有误导性?

Thom 指出,OpenAI 的公告声称过去十年没有进展,却关键依赖于他 2019 年的论文(以及许多人的后续工作)。他认为这种框架在智力上不诚实,因为公告贬低了之前的贡献,同时又在关键命题中使用了这些工作。

OpenAI 是否使用了 Andreas Thom 与 ChatGPT 的对话来训练模型?

Thom 询问了 OpenAI 的 Mark Sellke,Sellke 回复说“那没有发生”。但 Thom 认为这个否认是误导性的,因为 OpenAI 在 Buckmaster–Alpöge 案例中承认无法排除去标识化的用户数据帮助改进了模型。Thom 质疑 Sellke 的保证缺乏依据,并指出 OpenAI 没有披露其训练数据的具体情况。

AI 生成证明对数学出版和 credit 分配有什么影响?

Thom 认为,AI 打破了传统数学出版的三重功能:宣布结果、识别发现者、增进人类理解。AI 可以生成正确证明,但可能没有人类发现或理解论证。因此,出版记录不再能可靠地衡量个人数学能力,credit 和贡献的问题可能没有满意答案。

Thom 认为数学界应该更重视什么?

Thom 认为数学界应更重视对人类数学理解的贡献,包括解释论证为何有效、区分主要思想与技术细节、将结果与其他领域联系、提出正确问题、教授新方法以及帮助其他数学家使用这些方法。这些贡献可以通过论文、讲座、讨论、教学和合作实现。

Thom 对 AI 作为社会基础设施的监管有什么建议?

Thom 认为,先进 AI 正在成为科学、教育、公共管理、工业等依赖的通用“智能”供应,应按照类似水和电的标准提供:可靠、广泛可用,具有明确的公共责任、强隐私规则、独立监督,并防止歧视性或自私的使用。一旦智能成为社会基础基础设施,就必须受到高度监管并以公共利益为导向。

OpenAI 在非 sofic 群问题上的证明是否依赖于 Thom 和 Kun 的工作?

是的,OpenAI 论文的关键命题 2.3 使用了 Kun 关于扩展分解的工作以及 Thom 与 Gábor Kun 合作的中心化子刚性定理。Thom 指出,虽然命题 2.3 是中心化子刚性定理的巧妙应用,但其简短证明并不需要新技术。

🏷️

标签

➡️

继续阅读