2 名工程师 + Codex，OpenAI 用 Rust 重写了扛住 10 亿人的存储系统
内容提要
OpenAI披露Habitat在线存储平台：从Python客户端库演进为日均7000万请求、服务10亿周活、管理500PB数据的分布式系统。团队先以Python立服务，属战略性技术负债，并公开asyncio调度、配置卡顿、连接池LIFO亚稳态失败等调优经验。2026年Q2，仅2名工程师借Codex与GPT-5.5完成Rust重写，CPU效率提升6倍，内存提升15倍。
延伸解读
从库到服务：架构演进的必然性
Habitat 最初作为 Python 客户端库，虽降低了产品团队的使用门槛，却导致任何变更都需协调数十个服务，运维复杂度随团队数量线性上升。一次跨区域数据迁移因某个团队回滚旧版客户端而引发区域性故障，暴露了库模式的脆弱性。拆分为独立服务后，OpenAI 获得了统一的发布入口、集中式安全控制和平台演进能力，这为后续应对指数级增长奠定了架构基础。
战略性技术负债：用 Python 换时间
团队明知 Python 在高吞吐场景下存在性能瓶颈，仍选择先用它构建服务，以快速解除产品团队的阻塞。这是一次“计算好的赌注”：赌内部代码模型（如 Codex 和 GPT）的进步会在未来简化迁移。这一决策将性能问题推迟，让团队能优先解决更紧迫的架构和运维问题，体现了在极端增长压力下对技术负债的主动管理。
Python 高并发调优的四个关键教训
Habitat 在 Python 阶段踩过的坑具有普遍参考价值：asyncio 事件循环在高 CPU 负载下调度抖动可达数百毫秒，需监控事件循环繁忙度并限制单进程并发；Statsig 配置的无抖动拉取与多进程架构叠加导致周期性卡顿，需引入随机抖动；aiohttp 连接池默认 LIFO 策略可能引发亚稳态失败，改为 FIFO 可打破恶性循环；大量 Python 进程易造成下游连接风暴，需借助 Envoy 做连接聚合与限流。
Rust 重写：效率提升与 AI 辅助工程
2026 年 Q2，仅 2 名工程师借助 Codex 和 GPT-5.5 将 Habitat 用 Rust 重写，新服务承接 95% 生产流量，CPU 效率提升 6 倍、内存效率提升 15 倍，延迟显著降低。Rust 从语言层面消除了 GIL、asyncio 调度延迟等根源问题。这一案例表明，AI 编程工具已能支撑核心基础设施的大规模迁移，但前提是团队对系统瓶颈有深刻理解，并选择了合适的迁移时机。
Q&A
OpenAI 的 Habitat 存储系统是什么？它主要支撑哪些产品？
Habitat 是 OpenAI 内部统一的在线存储平台，支撑 ChatGPT、Codex、API 等全部产品。它从 2024 年年中的 Python 客户端库起步，如今已发展为日均处理超过 7000 万次请求、服务超 10 亿周活用户、管理 500PB 以上数据的分布式系统。
Habitat 为什么从客户端库改造成独立服务？
因为客户端库模式下，任何一次变更都需要在几十个服务之间做脆弱的协调，出错概率随团队数量线性上升。例如一次跨区域数据迁移，因某个团队回滚到旧版客户端而直接引发了区域性故障。改成独立服务后，获得了统一的发布与可观测性入口、集中式安全与合规控制点，以及面向未来的平台演进能力。
OpenAI 明知 Python 性能不够，为什么还先用 Python 写 Habitat 服务？
这是一次“战略性的技术负债”。团队清楚 Python 在高吞吐场景下网络延迟更高、CPU 和内存扩容成本更大，在 100 倍规模下无法接受，未来重写几乎必然。但当时最紧迫的目标是尽快解除产品团队的阻塞、把平台基础打稳，因此他们下了一个“计算好的赌注”：赌内部代码模型（Codex 和 GPT）的飞速进步会在未来大大简化技术栈迁移的路径。
Habitat 在 Python 高并发服务中踩过哪些坑？
文章公开了四个实战调优细节：一是 asyncio 调度延迟，高 CPU 负载下事件循环调度抖动可达几百毫秒甚至几秒；二是 Statsig 配置解析卡顿，每分钟无抖动拉取全量配置导致所有 worker 集体卡顿；三是连接池 LIFO 引发的亚稳态失败，部分进程长期亚健康直到手动重启；四是下游连接风暴，大量 Python 进程易用海量连接打垮下游依赖。
Habitat 的 API 为什么故意设计得很受限？
因为“简单、可预测、开销恒定”的请求系统远比功能强大但开销不可控的系统更容易扩展、更不容易被误用。Habitat 没有开放任意组合的 SQL 查询，而是暴露简单的 NoSQL API，围绕客户端自定义的对象和边类型构建，参考了 Meta 的 TAO 论文。对于确实需要复杂查询的客户端，提供通过 CDC 同步到独立 Rockset 实例的逃生通道。
Habitat 用 Rust 重写的成果如何？
2026 年第二季度，仅 2 名工程师借助 Codex 与 GPT-5.5，用一个季度把整个服务用 Rust 完整重写。新 Rust 服务已承接 95% 的生产流量，Python 版本将在几周内彻底退役。据 OpenAI 披露，CPU 效率提升 6 倍，内存效率提升 15 倍，平均延迟和尾延迟都显著降低。
Habitat 从 Python 迁移到 Rust 解决了哪些根本问题？
Rust 从语言层面直接消灭了 Python 高并发调优中至少三个问题的根源：没有 GIL、没有 asyncio 调度延迟、原生更高效的内存和连接管理。对照之前 asyncio 调度、feature flag 抖动、连接池 LIFO/FIFO、下游连接风暴等血泪史，这些问题的根源在 Rust 中不复存在。
Habitat 的工程决策哲学对团队有什么启示？
文章展示了极端增长压力下的工程决策哲学：接受阶段性的技术负债，但要清楚知道自己在赌什么、什么时候该还债；用约束换可扩展性，故意不做“强大”的 API，把复杂度显式推给客户端；把运维复杂度和语言效率分开解决，先解决“库 vs 服务”的架构问题，再解决“Python vs Rust”的语言问题；AI 编程能力已经具备承接核心基础设施迁移的能力。
