学习让我快乐
·
Mooncake 统一内存池:AI Vibe Coding 与 Rust
💡
原文中文，约500字，阅读约需2分钟。
📝
内容提要
最近我在做 Mooncake 接入 RL, 收益颇丰. 正好借这个机会, 总结下我们基于 Mooncake 所做的 local master / unify memory pool 设计. 一开始看上去, 这像是一个“把 DummyClient.get_buffer()/put_parts() 做快一点”的问题. 但真正把链路扒开来看就会发现, 问题远不止如此. 真正的问题是: 在一个...
🏷️
标签
➡️
