Kimi K3本地使用版（1.56TB → 594GB），由Unsloth压缩并发布

Unsloth团队把1.56兆字节的模型压缩到594G字节，体积缩小将近三倍。 最小的那位版本只用了不到六成原版体积，却保留了七成九的准确率。 量化压缩把巨无霸模型塞进硬盘 人工智能模型由无数个参数组成，参数就像人脑里的神经元连接点。参数越多模型越聪明但体积也越大，原始版Kimi K3拥有2.8万亿个参数。这些参数如果全部用十六位浮点数存储，体积会膨胀到接近三万亿字节，普通电脑根本装不下。