凯文·罗斯已对AGI深信不疑,你为何还不为所动?

凯文·罗斯已对AGI深信不疑,你为何还不为所动?

💡 原文英文,约11600词,阅读约需43分钟。
📝

内容提要

凯文·罗斯在访谈中介绍新书《AGI编年史》和新播客《机器之神》。他离开《纽约时报》,转向YouTube和独立创作,认为视频是当下最重要的媒体平台。书中记录OpenAI、Anthropic、谷歌等前沿实验室竞逐通用人工智能的历程,指出各公司对AGI的信念程度不同,其中Anthropic最坚定。他认为LLM路线仍然有效,少数巨头将胜出,但也担忧技术的脆弱性和行业的狂热。

🔎

延伸解读

AGI信念的温差:从Anthropic到谷歌

文章指出,各前沿实验室对AGI的信念程度并不一致:Anthropic最坚定,OpenAI紧随其后,而谷歌内部长期存在分歧。有研究员写备忘录呼吁“Say AGI”,认为承认在做AGI才能留住人才并保持安全投入;也有人反驳称AGI是“不科学的术语”。这种温差直接影响公司战略:信念强的更敢押注算力与长期路线,信念弱的更倾向把AI当作改进现有产品的工具。

信念为何成为AI竞赛的竞争力

凯文·罗斯认为,对AGI的信念是双刃剑。一方面,CEO若极度相信AGI,可能忽视利润率、企业客户等日常经营;另一方面,信念驱动“押上全部家当”的决策,而这类决策确实可能带来回报。他举例说,一年前OpenAI因大举投入算力被质疑过度扩张,但如今它反而是少数未严重受算力限制的头部公司。这说明在技术持续扩展的前提下,信念本身会转化为资源卡位优势。

企业软件生意与“造神”目标并存

文章呈现一个矛盾:这些实验室如今在现实中已是B2B软件公司,却仍以建造AGI为使命。罗斯的解释是,企业级销售是维持飞轮、支付GPU和研究人员薪资的“入场费”,并非他们真正的热情所在。他还提到,Dario Amodei早年预测AGI只需约100亿美元、Anthropic不超过50人,而现实规模远超预期。这提醒读者,商业动作与AGI叙事可能同时为真,不宜简单视为作秀。

LLM路线仍被押注,但并非没有隐忧

罗斯认为LLM仍是目前最有希望的AGI路径,因为下一词预测的泛化能力“好得惊人”,且至今没有失效。不过他也承认,可能需要对架构做调整,比如加入持续学习,而非单纯放大现有Transformer。文章同时记录了他的担忧:技术的脆弱性、行业狂热,以及从业者“总有人会造出来”的宿命论心态。这些内容提示读者,路线共识并不等于风险共识。

❓

Q&A

凯文·罗斯为什么离开《纽约时报》去做独立创作者?

他认为视频是当下最重要的媒体平台,而YouTube是其中最稳定的基础。他希望通过独立创作在YouTube上探索高质量新闻的可持续模式,同时抓住AI故事带来的媒体形式转变机会。

《AGI编年史》这本书主要记录了什么?

该书详细记录了OpenAI、Anthropic、谷歌等前沿实验室竞逐通用人工智能(AGI)的历程,以及这些公司对AGI信念程度的差异,其中Anthropic被认为是最坚定的。

凯文·罗斯写《AGI编年史》的初衷是什么?

他担心AI发展过程中的重要历史记录会消失,因为从业者受雇于私企、通讯消息自动删除、研究人员无暇记笔记。他希望以记者兼历史学家的身份抢救这些故事,为后代留下档案。

各AI实验室对AGI的信念程度有何不同?

Anthropic最坚定,OpenAI紧随其后,而谷歌则一直难以“感受AGI”,内部存在分歧:有人主张承认在造AGI以吸引人才,有人则认为AGI是不科学的术语。

凯文·罗斯认为LLM路线能实现AGI吗?

他认为LLM是最有希望的路径,虽然不确定但迄今表现惊人,下一词预测的泛化能力极强。他也承认可能需要调整架构或加入持续学习,但所有实验室都在押注它继续有效。

既然AGI有风险,为什么这些公司还要加速开发?

凯文·罗斯总结了三类原因:一是必然论与减少伤害论,认为总有人会造,不如由更可信的人来做;二是真心相信技术会带来巨大好处;三是单纯觉得研究有趣、享受创造过程。

🏷️

标签

➡️

继续阅读