成为基准

成为基准

💡 原文英文,约1700词,阅读约需6分钟。
📝

内容提要

计算机科学家Talia Ringer回顾2021年接触Codex时的“AI悲伤周期”,担忧AI生成程序带来漏洞、研究领域被吞没、AI文化侵蚀开放协作传统。她主张主动向AI界和公众说明研究实质,推动编程语言领域与AI互补共存。她认为数学界面临更大关注与敌意,需长期开展公关,向公众解释数学过程而非基准,并考虑工会化、与小公司及学者合作。

🔎

延伸解读

AI悲伤周期:从个人焦虑到领域应对

作者Talia Ringer将2021年接触Codex后的心理冲击概括为“AI悲伤周期”,即当毕生研究沦为AI公司的基准时产生的存在性焦虑。她担忧AI生成程序引入漏洞、研究领域被AI吞没、AI文化侵蚀开放协作传统。这种焦虑并非个例,而是许多被AI“基准化”的领域共同面临的心理与现实挑战。

编程语言领域的经验:互补而非替代

编程语言领域通过主动向AI界和公众说明研究实质,最终实现了与AI的互补共存。该领域既利用神经技术改进自身工作,也明确了经典技术的不可替代性,并成功向外界传达。作者认为,这一经验的关键在于社区整体诚实评估AI工具的能力与局限,而非被动等待被定义。

数学界的特殊困境:更高关注与更大敌意

与编程语言领域不同,数学在文化上同时被尊崇和憎恨,因此AI对数学的“侵犯”引发更广泛关注。这既是机遇——数学家有机会向世界解释其工作实质,也是挑战——他们的合理抱怨易被误读为“酸葡萄”或守门行为。作者指出,数学家的受众可能更具对抗性,仅学习AI语言远远不够。

长期公关与集体行动:数学过程的持久战

作者主张数学界需开展与“数学作为基准”在AI公司中热度相始终的长期公关,持续与媒体、教育、政策制定者和资助者沟通,解释数学过程而非基准。她以艺术和写作领域的经历为例,说明社会关注会转移,但斗争不会完全消失。她还建议数学家考虑工会化,并与小公司及学者合作,共同设计符合自身价值的工具。

Q&A

Talia Ringer 在2021年接触 Codex 后经历了什么?

她经历了所谓的“AI悲伤周期”,即当自己毕生的工作成为 AI 公司的基准时,所产生的一系列担忧和情绪反应。

Talia Ringer 对 AI 生成程序有哪些技术层面的担忧?

她担心 AI 生成的软件会充满漏洞;人们可能只运行一些单元测试就认为程序没问题,而忽略边缘情况;AI 工具可能过拟合给定的测试;人们有时感觉使用这些工具更高效,但实际上完成的工作更少。

编程语言领域如何应对 AI 的冲击?

该领域诚实地面对变化,评估了 AI 工具的能力和局限;在相关时使用神经技术改进自身工作,同时发现自身技术与神经技术严格互补,并成功传达了这一点;领域文化保持完好。

为什么数学界比编程语言领域受到更多关注和敌意?

因为数学在文化上同时被尊崇和憎恨,人们非常关心数学;数学能力常与“智力”挂钩,数学家被视为知识精英,容易成为替罪羊;AI 公司认为“解决数学”就能“解决一切”,因此公众对 AI 侵犯数学的关注远多于对编程语言领域的关注。

Talia Ringer 对数学界有什么建议?

她建议数学界开展长期的公关活动,向公众解释数学过程而非基准;与新闻媒体、社交媒体、教育系统、政策制定者和资助者进行持续接触;考虑工会化;与小公司和学者合作,尤其是那些有参与式模型、能让数学家共同设计工具的合作。

Talia Ringer 认为 AI 对艺术和写作的影响对数学界有何启示?

艺术和写作曾是 AI 公司的主要目标,但后来社会对 AI 艺术和写作产生反感,AI 公司也因无法证明“最佳模型”而转向其他领域。虽然艺术和写作仍受负面影响,但斗争不再耗尽一切。数学界可以从中得到启示:公关活动最终会随着社会和 AI 公司的转移而变得容易。

🏷️

标签

➡️

继续阅读