内容提要
开源AI正成为生产主力,推理成本三年降50倍,中国模型流量超美国三倍。但部署成功率低,闭源在集成、长上下文、合规上领先。开源生态经济规模达千亿美元,中国是最大权重来源。未来机会在开源harness、记忆层、权限标准等领域,窗口期有限。
延伸解读
开源与闭源的真实差距:能力接近,部署是分水岭
文章指出,开源模型在编程、指令遵循等任务上已与闭源持平,差距集中在推理、长上下文和代理化任务。但更关键的是部署成功率:开源团队仅51%能上线,闭源为63%,大公司差距更明显(57% vs 73%)。这并非模型能力问题,而是工具链、集成和运维支持不足。开发者弃坑主因是性能、集成困难和维护麻烦,而非成本或安全。
成本优势显著,但闭源在关键领域仍领先
推理成本三年降50倍,开源API比闭源便宜约6倍,自托管可进一步降本(如Stripe砍73%)。但闭源在集成harness、百万token长上下文保真度(Gemini 3达89%,DeepSeek V4-Pro仅41%)、开箱即用的合规(SOC 2、HIPAA)和问责性上领先。这些差距中,长上下文是模型问题,需开源实验室自身努力;合规和问责可通过合同解决。
agent harness成为新战场,闭源正构建护城河
文章强调,agentic harness(编排、工具、记忆、权限)是生产难点,也是开源与闭源竞争的新焦点。前沿实验室已把harness收回内部,与自家权重深度耦合,形成锁定效应。Terminal-Bench 2.1显示,实验室自有harness比第三方高出约3个点,而开源模型没有第一方harness回应。但中性harness下,最强开源GLM 5.2仅比Claude Opus 4.8低约4个点,成本仅五分之一,说明开源仍有潜力。
开源生态的机遇与风险:窗口期有限
文章提出五个投资机会:构建开源harness、拥有记忆层、解决可移植权限问题、打碎计费表、保持开源多元。同时警告风险:若token份额停滞、推理差距扩大、实验室harness领先扩大或闭源先定权限标准,窗口将关闭。开源经济规模达千亿美元,但依赖主权资金和商业支持。中国是最大权重来源,但地缘政治限制可能影响扩散。
Q&A
开源AI与闭源AI在能力上的差距有多大?
根据Chatbot Arena数据,2024年1月开放与闭源的能力差距为8.04%,到2024年8月缩小到0.5%,2026年3月差距重新扩大到3.3%。但这一差距是平均值,掩盖了领域差异:开放权重在编程、指令遵循和通用知识上已持平或反超,差距主要集中在推理、长上下文检索和代理化任务。
为什么开源模型部署成功率低于闭源模型?
根据Mozilla和SlashData的开发者调查,开源模型团队只有51%能将模型部署到生产环境,而闭源团队为63%。主要原因是集成到现有系统困难、维护和更新麻烦、文档不足、部署托管扩容困难等运维问题,而非模型能力不足。大公司能花钱解决闭源部署问题,但开源部署的工具链尚不成熟。
开源AI技术栈中哪些层级表现最好,哪些最差?
开源AI技术栈中表现最好的是机器学习框架层(4.6分)和支持库层(4.6分),推理代码层也较高(4.3分)。表现最差的是硬件芯片层(2.1分)、固件驱动层(2.8分)和权限模型(1.7分)。整体上,标准化和企业就绪度是各层级的短板,导致运维困难。
开源AI有哪些已验证的商业模式?
开源AI有五种已验证的商业模式:托管推理、企业平台、本地部署授权、微调服务和agent工具链。这些模式已被Databricks、Mistral、DeepSeek等公司验证,并吸引了Nvidia、Salesforce、AMD等投资。
为什么说开源权重是退出权?
开源权重被视为退出权,因为闭源模型API存在供应商锁定风险,如价格变动、服务中断等。例如,Anthropic因出口管制切断访问,导致依赖其模型的服务中断。而开源权重可以自托管,不受供应商控制,提供了退路。云时代已有类似教训,如从AWS S3迁移数据成本高昂。
中国在开源AI领域扮演什么角色?
中国是全球最大的开源权重来源,阿里Qwen在Hugging Face上累计下载9.42亿次,超过Meta Llama的4.76亿次。OpenRouter上中国开源模型的token份额从2024年底不到2%涨到2026年4月的45%以上。中国国务院的“AI+”倡议将开源扩散作为核心指令,同时开源权重也是对半导体出口管制的宏观对冲。
agent harness是什么?为什么它成为新的战场?
agent harness是包含编排循环、工具、记忆、沙箱和权限模型的系统,用于管理AI代理。它成为新战场是因为闭源实验室通过将harness与自家权重紧密集成,形成护城河,如Claude Code。开源模型缺乏第一方harness,但中性harness测试显示能力差距不大,价格差距大。
开源AI在哪些方面仍落后于闭源?
开源AI在四个方面落后于闭源:集成harness(官方Terminal-Bench认证顶级梯队无开源模型)、百万token长上下文保真度(Gemini 3多针检索89%,DeepSeek V4-Pro仅41%)、开箱即用的合规(默认SOC 2、HIPAA等)、问责(有客户可追究责任的对家)。
开源AI有哪些投资机会?
开源AI有五个投资机会:构建与开源权重协同设计的开源harness、拥有记忆层、解决可移植权限问题、打碎计费表(采用多供应商策略)、确保开源默认选项多元化。这些机会在窗口期关闭前有效。
如何判断开源AI窗口是否关闭?
可以通过几个信号判断:OpenRouter上开源模型的token份额是否停滞且推理差距扩大;Terminal-Bench上实验室自有和独立支架的差距是否扩大;MCP/A2A治理和可移植权限规范是否由闭源平台制定;开源实验室的经济状况和主权算力投资是否持续;以及信任和安全政策是否转向限制。