➡️
继续阅读
-
买显卡跑模型必看:Shoehorn让14B模型塞进24GB显存
Shoehorn是一款用Rust编写的开源工具,通过精确到字节的混合精度量化,优化大语言模型在显卡显存中的分配。它先探测显存,计算权重预算,再用重要性矩阵...
-
在线教程丨Qwen3.8-27B重磅开源,推理/编程/Agent能力齐升级
Qwen3.8-27B开源模型发布,拥有270亿参数,强化推理、编程与Agent能力,在代码、多模态和智能体评测中表现优异,接近顶级闭源模型。支持图像视频...
-
麒麟软件Kvisor Cert获TÜV南德IEC 61508功能安全认证证书
麒麟软件自主研发的Rust语言虚拟化软件Kvisor Cert获TÜV南德IEC 61508功能安全认证,这是全球首张基于Rust管理程序的功能安全证书。...
-
ai-memory:换个 CLI 接着干的 agent 记忆层
ai-memory 是一个用 Rust 编写的 agent 记忆层,通过 MCP 和生命周期钩子为 CLI 工具提供共享长期记忆,以 git 版本化的 m...
-
高级 Rust 开发工程师
该文章为招聘信息,包含两个职位:一是高级Rust开发工程师,负责核心平台架构设计,要求精通Tokio、分布式及中间件,工作地点新加坡或香港;二是风控一号位...
-
AI 缓存不只是省钱:后端团队该先想清楚的几件事
AI缓存不能简单当作普通缓存处理,需先理清缓存键、权限隔离和上下文边界,避免跨租户泄露。建议记录命中日志、提示词版本、模型版本,并支持一键关闭。优先缓存低...