Colibri 是一个开源项目,允许普通电脑在仅有 25GB 内存的情况下运行 GLM-5.2 模型,无需 GPU。它通过按需加载模型参数,节省内存和硬盘空间。GLM-5.2 是智谱发布的强大开源模型,支持多种操作系统,但需要 370GB 硬盘。
colibri项目通过混合专家模型(MoE)将7440亿参数的AI模型压缩至25GB内存,使其能够在普通游戏本上运行。尽管推理速度较慢,但该项目挑战了传统AI部署观念,展示了普通硬件的潜力,受到社区的赞赏,体现了黑客精神。
完成下面两步后,将自动完成登录并继续当前操作。