碎片:10月28日

碎片:10月28日

💡 原文英文,约2300词,阅读约需9分钟。
📝

内容提要

文章讨论大语言模型(LLM)能力认知差距:少数前沿者感受到能力陡升,多数人仍认为其不可靠。企业虽引入AI,但仅用其皮毛,受数据与安全制约。作者认为AI投资存在泡沫但并非浪费,类似互联网早期。编程正从直接控制转向监督控制,写代码或成衰退技能,但问题解决与系统理解能力仍宝贵。企业需按工作负载分类管理token成本。

🔎

延伸解读

认知鸿沟:前沿体验与大众感知的错位

文章指出,LLM能力认知存在巨大分层:少数前沿者感受到能力陡升,而多数专业人士仅看到有限提升,公众甚至只接触过“笨拙的聊天机器人”。作者提醒,前沿圈子的体验容易形成回音室,免费版工具的不稳定仍削弱实用性。这种错位意味着,讨论AI影响时需区分“前沿探索”与“普遍现实”,避免以少数人的体验代表整体。

企业落地:瑞士军刀只用了牙签

大型企业虽引入AI,但受安全顾虑、数据质量和工作流程惯性制约,往往只用到皮毛。文章用“买了瑞士军刀却只用牙签”比喻这一现状,并指出用好AI依赖“agent就绪”的数据,而许多企业数据远未达标。对读者而言,这意味着企业AI的瓶颈常不在模型本身,而在数据治理与组织流程的改造。

投资泡沫与长期价值:1997年的互联网类比

针对“AI投资是否存在泡沫”,作者认为估值过高、泡沫会破,但不能据此否定投资价值,并用1997年互联网类比:当时也缺乏生产力数据,但长期回报真实存在。文章提醒,投资不仅是买股票,也包括时间与精力的投向。读者应区分“短期估值泡沫”与“长期技术回报”,避免用早期数据仓促下结论。

编程技能转型:从直接控制到监督控制

文章引用自动化研究中的“直接控制”与“监督控制”区分,指出AI代理正接管写代码、跑测试、修错误等闭环,开发者转向监督角色。但关键差异在于:代理的自我报告未必准确,监督反而需要更多。作者认为写代码或成衰退技能,而问题解决、逻辑思维与系统理解仍宝贵。这提示开发者应主动重构工作方式,而非固守编码身份。

❓

Q&A

为什么大多数人对LLM的能力感知和前沿开发者差距这么大?

因为大多数人只接触过免费或非前沿的聊天机器人,体验不稳定;而少数前沿专业人士在使用强大工具时感受到能力陡升。这种认知差距同时存在,导致公众和多数专业人士对LLM的评价远低于前沿探索者。

企业在应用AI时为什么只用了皮毛?

大企业引入AI但仅用其皮毛,主要受限于安全顾虑、数据质量不佳以及现有工作流程难以改变。用好AI需要良好的数据基础,而许多企业数据尚未就绪,因此难以发挥AI的全部潜力。

AI投资存在泡沫,是否意味着投资AI是浪费钱?

不是。作者认为估值过高、泡沫会破,但投资AI并非浪费,类似1997年互联网早期,数据尚不充分,长期生产力提升需要时间。投资也包括时间和精力的投入,应关注能证明答案正确的领域。

AI时代编程技能会消失吗?开发者应该培养什么能力?

写代码可能成为衰退技能,但问题解决能力、逻辑思维和系统理解力将更有价值。开发者应提升高层抽象能力,从直接控制转向监督控制,专注于知道构建什么以及如何构建好。

什么是直接控制与监督控制?AI如何改变软件开发?

直接控制是人自己闭环反馈(如写代码、测试、修复);监督控制是由计算机闭环,人负责设定目标、监督并在需要时接管。AI编码代理能自行写代码、运行测试和修复错误,使开发者转向监督控制,但需注意代理报告可能不准确,需要更多监督。

企业如何管理LLM的token成本?

Thoughtworks采用token采购策略:对需要前沿推理的工作租用前沿模型;对涉及IP或高用量工作运行自选容量的开放权重模型。按领域差异化和安全主权两个维度对每个LLM工作负载分类,放入九宫格,最高分轴决定位置,没有统一方案,各组织形成自己的分布。

🏷️

标签

➡️

继续阅读