当代理构建、部署和维护时，持久性成为难题

Kimi平台如何解决海量闲置租户带来的成本问题？

Kimi平台通过将持久状态与临时计算分离来解决成本问题。具体做法是使用共享对象存储保存持久数据，并通过虚拟隔离层为每个租户提供独立的命名空间和隔离保证，而计算资源则按需从预热池中秒级启动。这样成本只随实际工作量增长，而不是随创建量增长，从而避免了闲置成本陷阱。

什么是“闲置成本陷阱”？

闲置成本陷阱是指当租户数量达到数万甚至更多时，如果为每个租户分配独立的数据库实例，那么即使这些租户大部分时间处于闲置状态，也需要为这些始终运行的计算资源付费。这导致成本随创建量而非实际使用量增长，最终在经济上不可持续。

Kimi如何实现数据库的秒级启动？

Kimi通过维护一个预热池，其中预先初始化了资源，当有请求到来时，可以直接从池中快速分配一个数据库实例，大约在一秒内完成。这样数据库的创建时间就从交付流程中消失了，使得临时计算可以替代始终在线模式，因为启动速度足够快，用户感觉不到延迟。

为什么代理的维护工作区也需要持久化？

因为代理在维护应用时需要恢复之前的工作状态，包括源代码、Git历史、检查点和任务进度。如果这些状态丢失，代理就必须重新构建，浪费计算资源和令牌。通过使用持久文件系统，这些状态可以在计算环境销毁后继续存在，使得代理能够恢复工作而不是从头开始。

统一数据层如何提高代码生成成功率？

统一数据层使得代理在每次任务中不必重新选择数据库和配置，而是应用已知的良好模式，减少了即兴发挥的机会，从而降低了错误率。Kimi观察到，通过标准化统一数据层，代码生成成功率得到了提高。

代理时代的数据层需要同时满足哪四个要求？

代理时代的数据层需要同时满足四个要求：隔离性、即时供应、接近零的闲置成本、以及共享底层上的持久状态。这些要求分别在过去被单独解决过，但现在是首次需要同时满足，并且规模要达到数千万租户，任何一个失败都会破坏整个产品。

为什么说代理时代的数据库竞争不再是速度？

因为代理创建应用的速度远快于人类，导致大量闲置租户，如果数据库架构不能有效处理闲置成本，那么即使模型质量再高，也无法弥补经济上的损失。因此，竞争焦点转向了持久化的经济性，即能否在数千万租户规模下保持成本可控。