有预言家!A社研究蓝图曝光,Claude Code来自5年前

有预言家!A社研究蓝图曝光,Claude Code来自5年前

💡 原文中文,约2600字,阅读约需7分钟。
📝

内容提要

Anthropic 2021年内部路线图因版权诉讼曝光,显示其已规划Claude Code、工具调用、模型自我评判、测试时计算及万亿参数与超长上下文。CEO Dario决定先验证工具调用,再发展为编程助手。文档强调无沙箱工具的安全部署,并主张能力与对齐研究同步推进。

🔎

延伸解读

路线图曝光背后的诉讼与时间点

这份2021年7月的内部路线图因版权官司意外曝光,当时Anthropic刚从OpenAI独立几个月,全员仅十几人。文件标着“最高机密”,正文仅两三页,却已清晰规划了Claude Code、工具调用、自我评判、测试时计算等方向。这说明其技术路线并非近年跟风,而是早期就定下的长期目标,诉讼反而成了外界窥见其战略的窗口。

工具调用优先:Dario的决策逻辑

内部曾争论先做实用编程助手还是先验证工具调用。研究员Andy Jones提出分歧,Tom Brown建议从代码仓库检索入手。最终CEO Dario拍板:短期先验证工具调用可行性,长期再演进为超级好用的编程助手。这一决策直接影响了Claude Code的演化路径,也解释了为何Anthropic在Agent能力上显得更有连贯性。

安全与对齐:同步推进的早期原则

路线图用大量篇幅讨论安全,联合创始人Sam McCandlish提出如何安全部署无沙箱工具,Dario特别强调部署时执行代码的工具。内部哲学家Amanda则担忧能力研究集中在代码、对齐研究在自然语言,两者脱节会让对齐变成孤岛,因此提议能力与对齐研究应成比例同步推进。这反映了Anthropic以安全立命的底层逻辑。

与OpenAI的路线差异及后续风险

文章对比指出,Anthropic五年死磕高质量代码信号、强化学习和企业工作流,而OpenAI多线作战于文生图、Sora、语音助手和搜索,可能分散了战力。但文章末尾也提到OpenAI前工程师因在核心会议室安装窃听设备被刑事指控,这提醒读者:即使技术路线清晰,内部安全与物理保密同样是AI公司不可忽视的风险。

❓

Q&A

Anthropic 2021年的内部路线图是怎么曝光的?

因为一起版权官司,这份2021年7月的内部研究路线图作为证据被意外曝光。

Anthropic在2021年路线图中设定的终极目标是什么?

打造一个能通过自然语言与人类交互,去创建、编辑和解释软件的通用AI助手,展现出软件工程师同事的全部能力。

关于先做编程助手还是先验证工具调用,Anthropic内部是如何决策的?

CEO Dario最终决定:短期先验证工具调用的可行性,长期再演进成超级好用的编程助手。

2021年路线图中预判了哪些底层技术方向?

预判了训练1万亿参数及以上的超大模型、探索超长上下文、模型自我评判(Self-Judging)以及测试时计算(Test-time compute)。

Anthropic在2021年对Agent安全提出了哪些担忧?

联合创始人Sam McCandlish提出如何安全部署没有沙箱隔离的工具,Dario强调部署时执行代码的Tool的风险,担心失控或Prompt注入。

内部哲学家Amanda对能力与对齐研究提出了什么原则?

她提议确立公司原则:各个领域的能力研究和对齐研究应该成比例同步推进,除非能给出充分理由说明为什么要分开。

🏷️

标签

➡️

继续阅读