每秒 7000 万次请求,500PB 数据,每周 10 亿用户。这是 ChatGPT 背后存储系统 Habitat 现在的规模。
真正让人意外的不是这些数字,是 OpenAI 处理技术债的方式。
Habitat 最早只是一个连接数据库的小型 Python 库。OpenAI 很早就看清楚了:Python 扛不住这个规模,重写是迟早的事。但他们没有动手。
他们赌了一把。先用 Python 快速把产品铺开,等必须重写的时候,未来的 Codex 和 GPT 会让迁移便宜得多。
赌注兑现了。2026 年第二季度,两名工程师,加上 Codex 和 GPT-5.5,把整个服务重写成了 Rust。新版本已经承接 95% 的生产流量,CPU 效率提升 6 倍,内存效率提升 15 倍。
但在重写之前,他们先用 Python 冲到了 2000 万请求/秒(峰值)。这意味着什么?OpenAI 开发者账号的原话是:"我们搞定了事件循环管理和连接池,让 Python 在这个规模下还能运转。"
事件循环和连接池,恰好是 Python 在超高并发下最核心两个瓶颈。OceanBase 早年也在这上面吃过苦头,但很少见到团队公开分享具体的工程手段。OpenAI 说要做这件事——在 Rust 迁移落地之后,回头把 Python 阶段的教训写出来,分享给其他在 Python 扩展道路上挣扎的团队。

过去我们理解技术债,是今天省下的时间,留给未来的工程师加班偿还。OpenAI 把债留给了未来更强的模型。
这动摇了一个很基础的判断。如果 AI 能让大规模重写越来越便宜,技术选型的计算就会变。以前选错语言、架构不完美,意味着以后要付一笔昂贵的迁移费——这意味着更多公司在做技术决策时倾向于保守。但如果 AI 降低迁移成本,"先用最快的语言做出来,让未来的模型收拾残局"就可能变成一个理性的工程策略。
当然,这不是鼓励随便写。OpenAI 敢这么干,是因为系统的边界、测试和监控都足够清楚。没有这些,AI 重写的不是系统,是事故。
OpenAI Habitat 迁移前后对比:
| 指标 | 迁移前 (Python) | 迁移后 (Rust) |
|---|---|---|
| 峰值 QPS | 2000 万 | 7000 万 |
| 生产流量 | — | 95% 由 Rust 承接 |
| CPU 效率 | 基准 | 提升 6 倍 |
| 内存效率 | 基准 | 提升 15 倍 |
| 数据规模 | — | 500PB |
| 用户规模 | — | 每周 10 亿 |
| 年增长 | 10 倍 / 年 | — |
X 上有人评论:"重点是那两个工程师不是只会 vibe coding。"能靠 Codex 把 500PB 的系统迁到 Rust,前提是真的有人懂这套系统怎么运转。
来源: