蓝点网
·
有团队将智谱GLM-5从1.65TB压缩到241GB 256GB(内存+显存)即可在本地跑模型
📝
内容提要
#人工智能 有团队将智谱 GLM-5 模型从 1.65TB 压缩到 241GB，只需要 256GB 总内存 (内存 + 显存总和) 即可在本地跑模型。可选硬件组合包括 256GB 统一内存的 Mac 设备，或者 24GB 显存 GPU+256GB 内存的 PC，如果要跑动态 8 位版则需要 1TB 内存的顶级工作站，有兴趣的大佬可以试试。查看全文：https://ourl.co/111838
➡️
