拒给OpenAI送数据!年入83亿律所豪买英伟达H200,自建私有AI

拒给OpenAI送数据!年入83亿律所豪买英伟达H200,自建私有AI

💡 原文中文,约4000字,阅读约需10分钟。
📝

内容提要

美国律所瑞生年收入83亿美元,为保护客户数据主权,斥资数千万美元购买英伟达H200服务器,自建私有AI基础设施,微调开源模型Nemotron 3,避免将保密数据交给OpenAI等云服务。这反映数据密集行业转向主权AI的趋势,也凸显云AI的信任与合规风险。

🔎

延伸解读

数据主权:律所自建AI的核心驱动力

瑞生律所年收入83亿美元,却选择斥资数千万美元购买英伟达H200服务器自建AI,根本原因在于客户数据保密是律所的生命线。使用OpenAI等云服务意味着敏感合同、诉讼策略等核心资产可能暴露于第三方服务器,甚至被法院传唤调取。美国律师协会2025年意见512号要求律所使用AI前必须获得客户知情同意,但云AI的“黑盒”特性使律所无法独立验证数据是否被删除或留存。自建私有AI基础设施,让数据不出律所控制的网络边界,从根本上规避了信任与合规风险。

英伟达的算盘:卖硬件与开源模型,瓦解云AI商业模式

英伟达向瑞生提供H200 GPU和Nemotron 3开源模型,看似在帮助客户摆脱对AI巨头的依赖,实则暗藏商业逻辑。OpenAI和Anthropic的“模型即服务”模式要求客户将数据上传至云端,而英伟达反其道而行:你买我的硬件,模型权重给你,数据留在你手里。一旦企业能自跑模型,按token计费的云AI生意就会动摇。英伟达通过开源模型和自托管许可,将自身定位为AI基础设施的“卖铲人”,无论客户选择哪条技术路线,它都能从硬件销售中获利。

自建AI栈的隐性成本与迭代风险

瑞生的私有AI基础设施并非一劳永逸。一套H200 GPU系统单芯片价格3到4万美元,完整整机系统可超30万甚至60万美元,加上专业运维人员,每年可能烧掉数千万美元。更棘手的是硬件迭代:英伟达GPU约每年一代,Blackwell架构已取代Hopper成为旗舰,H200虽强但已非最前沿。半年后Nemotron 4发布,现有GPU能否支撑新模型训练?换硬件又是一笔巨款。此外,瑞生的服务器托管在第三方数据中心,物理安全仍依赖运营商,这种“半主权”状态能否满足长期合规要求,尚待观察。

监管趋势下的主权AI:绕开争议的第三条路

加州《前沿人工智能透明度法案》和欧盟《人工智能法案》正逐步落地,对AI开发者提出透明度与安全报告要求。有分析指出,严格的合规成本对创业公司和开源项目是致命打击,对巨头却只是运营成本,可能变相筑高市场壁垒。瑞生没有等待监管明确AI使用边界,而是直接自建私有AI栈,用开源权重模型加本地算力绕开了监管争议和数据信任黑洞。这种“主权AI”路径,正被法律、金融等数据密集型行业视为平衡创新与合规的可行方案。

Q&A

瑞生律师事务所为什么要自建私有AI基础设施?

为了保护客户数据主权,避免将保密数据交给OpenAI等云服务,防止律师-客户特权因数据经过第三方服务器而受损。

瑞生自建AI基础设施具体采用了哪些技术?

购买了英伟达H200 GPU服务器,在第三方数据中心搭建私有服务器,并微调英伟达的Nemotron 3开源权重模型。

自建AI基础设施的成本大概是多少?

一套H200 GPU系统单芯片3-4万美元,完整整机系统可超30万甚至60万美元;像瑞生这种规模,硬件加运维每年能烧掉几千万美元。

云AI服务在数据安全方面存在哪些风险?

云AI服务是“看不见”的黑盒子,即使有企业协议,也无法独立验证数据是否被删除、留存或用于其他用途,存在数据留存不确定性和被传唤的风险。

除了瑞生,还有哪些公司或案例体现了主权AI趋势?

法律科技公司Harvey基于Kimi K3训练自研模型,德国Noxtua融资9200万美元做主权AI,EY推出本地部署AI平台。

自建AI基础设施可能面临哪些长期挑战?

开源模型迭代速度快,硬件可能很快过时,更换硬件成本高;且基础设施在第三方数据中心,物理安全依赖运营商,处于“半主权”状态。

🏷️

标签

➡️

继续阅读