高性能 LLM 推理框架：纯 C/C++ 实现，支持多硬件平台！ | 开源日报 No.786
开源服务指南 ·
llama.cpp 是一个高性能的 C/C++ LLM 推理项目，优化了 Apple Silicon 和 x86 架构，支持多种量化选项。Awesome-LLM-3D 汇总了多模态语言模型在三维世界中的应用资源。evcc 是电动汽车充电控制器，支持多种通信协议。生成 AI 文档提供 Google Gemini API 的信息和示例。
原文中文，约800字，阅读约需2分钟。
