内容提要
本期 HelloGitHub 介绍多款开源项目,涵盖终端动画、纯 C 零依赖大模型推理引擎、Wayland 桌面环境、离线格式转换器、AI 截图批注工具、Go 加密文件系统、AI 模型切换网关、终端邮件客户端、无密码认证服务、浏览器 GIS 平台、自托管工具箱、健身记录应用、浏览器云电脑、雅思背单词工具、Android TV 桌面、安卓 CarPlay、安卓运行 Steam 游戏、Anki 卡组生成库、墨水屏漫画转换、GPU 数学动画引擎、Windows 自动化库、GPU 算子语言、ESP32 模拟器、文件共享服务器、AI 智能体沙箱,以及多个 AI 设计技能和 DeepSeek 推理框架等。
延伸解读
本地化与隐私保护成为主流趋势
本期多个项目强调数据不出本地:离线格式转换器、截图批注工具、GIS 平台、在线工具箱、图片压缩工具等均在本机处理文件。这反映出用户对隐私和可控性的需求上升,也降低了使用云服务的门槛和风险。读者在选择工具时,可优先关注是否支持离线运行和自托管。
AI 辅助开发工具向细分场景深入
从截图批注生成 JSON、模型切换网关,到设计技能、简化英语改写指令,AI 工具正针对编程、设计、写作等具体环节提供支持。这些项目多兼容主流 AI 编程助手,并注重与现有工作流集成。开发者可借此减少重复劳动,但需注意工具的实际效果和适用边界。
硬件与系统层优化挖掘现有设备潜力
纯 C 推理引擎让无 GPU 设备运行大模型,RTX 30 系解锁模块提升算力,安卓设备运行 Steam 游戏和 CarPlay,ESP32 模拟器无需开发板即可调试固件。这些项目通过软件优化扩展了硬件用途,适合希望低成本尝试新功能的用户,但需留意兼容性和稳定性。
Q&A
有没有不用显卡就能跑千亿参数大模型的开源推理引擎?
有,HelloGitHub 第 127 期介绍了一个用纯 C 编写的混合专家模型推理引擎,零依赖、不需要 GPU。它只把模型每次都要用到的部分留在内存,其余专家权重在需要时从硬盘读取,最低 8GB 内存就能运行 GLM、Kimi、DeepSeek、Qwen 等开源大模型,并提供兼容 OpenAI 和 Anthropic 的 API,适用于 Windows、Linux 和 macOS。
如何让 Claude Code 用上 Kimi 或者让 Codex 用上 DeepSeek?
可以使用一款用 Go 开发的 AI 编程助手模型管理工具。它通过本地网关转换 OpenAI、Anthropic 和 Gemini 的接口格式,支持多种编程助手和模型服务商,还能把订阅共享给其他助手使用,额度用完后自动切换账号。
有哪些开源工具可以给截图添加批注并让 AI 理解界面修改需求?
有一款面向 AI 编程的截图批注工具,可以把具体怎么改整理成 AI 能直接读取的 JSON。它支持悬停识别界面元素、点和框批注、拖动组件调整布局、暂停视频按帧批注,以及 OCR 和长截图,所有处理均在本地完成。
有没有可以自托管的健身记录应用,能替代 Strong 或 Hevy?
有一款可自托管的健身和体重记录应用,没有订阅、广告和遥测,用 Docker 一行命令即可部署。它内置 5000 多个带动画演示的动作,支持按星期安排训练计划、引导式训练、组间休息计时、自动识别个人最佳成绩,并能通过肌肉热力图查看各部位训练情况,还可以从 Strong、Hevy 等应用导入数据,提供 iPhone、Apple Watch 和 Android 版本。
如何在安卓手机或车机上使用 CarPlay 或玩 Steam 游戏?
HelloGitHub 第 127 期介绍了两个相关项目:一是运行在安卓车机上的 CarPlay 应用,支持有线或无线 CarPlay,可把导航信息投到抬显,支持安卓 7.0 及以上;二是将 SteamOS 带到 Android 的应用,可在搭载 Adreno GPU 的安卓设备上运行 Steam 客户端,支持运行 Windows 游戏、安装 Linux 应用、登录 GOG、Epic 和 Amazon 游戏商店。
DeepSeek 开源的推理框架有什么特点?
这是 DeepSeek 线上大规模服务所用的高性能推理框架,提供离线推理和大规模部署所需的核心功能。它集成了 FlashMLA、DeepGEMM、DeepEP 等自研优化算子,支持注意力数据并行、MoE 专家并行、异步调度、确定性采样和结构化输出,可运行在英伟达和华为昇腾 NPU 上。