💡
原文中文,约1100字,阅读约需3分钟。
📝
内容提要
智谱GLM-5模型已从1.65TB压缩至241GB,需256GB内存即可本地运行,支持256GB统一内存的Mac或24GB显存的PC。该模型在编码和聊天方面表现优异,提供更大的上下文窗口。
🎯
关键要点
- 智谱GLM-5模型从1.65TB压缩至241GB,需256GB总内存即可本地运行。
- 支持256GB统一内存的Mac或24GB显存的PC。
- 动态8位版需要1TB内存的顶级工作站。
- GLM-5在编码、智能体和聊天方面表现出色,提供更大的上下文窗口。
- 模型通过28.5万亿个token进行训练,完整版包含744B参数。
- 存储、内存与显存的定义:存储是硬盘空间,内存用于临时存储数据,显存用于计算。
- 推荐的最佳配置:动态2位版需256GB总内存,动态1位版需192GB总内存,动态8位版需1TB内存。
➡️