蓝点网 ·

开发者在8GB内存上部署Kimi K3模型并成功运行只是...速度为33秒/Token

💡 原文中文，约1300字，阅读约需4分钟。

📝

内容提要

#人工智能有开发者在本地部署 Kimi K3 模型，仅需 8.24GB 内存就可以实现运行，只是运行速度为 33 秒 / Token (注意看单位)。如果将内存提升到 128GB 则可以实现 20 秒 / Token，不过这也基本是性能上限，继续堆内存无法继续提高效率。目前开发者已经将基于 C99 开发的推理引擎开源，有兴趣的用户可以研究看看。查看全文：https://ourl.co/114176

🏷️

继续阅读

阿里Qwen3.8正式发布，编程与办公再进化，推理更快更稳定
阿里巴巴正式发布新一代基座大模型Qwen3.8，整体性能处于全球大模型第一梯队。Qwen3.8-Max预计下周开源，同时还将开源 Qwen3.8-27B。
大芬油画村
周末的深圳依然在雨水中浸泡着，宅家怕发霉，索性出门走走。一直听闻大芬油画村有「中国油画第一村」之名，是全国最大的商品油画基地，来深圳几年却从未去过，索性趁周末去...
阿里“千问办公”开启公测
阿里巴巴旗下“千问办公”（QwenWork）开启公测，个人和企业用户均可体验。用户可在“千问办公”体验阿里最新旗舰模型Qwen3.8。
小米多款手机正式涨价；iPhone 18或涨价200美元；阿里巴巴集团主席蔡崇信离婚；特斯拉引入豆包大模型
（全球TMT 2026年8月3日讯）今日要点：小米多款手机正式涨价；阿里巴巴集团主席蔡崇信离婚；特斯拉引入豆包 […]
Embabel Agent Framework Reaches 1.0
Embabel has reached its 1.0 release, providing a framework for AI agents on J...
赛博义父Tibo爆料：谷歌早一年就做出了ChatGPT，硬是没敢发！
终究还是喜提了「美国豆包」

内容提要

标签

继续阅读