oBeaver 是一个本地运行大语言模型的工具,旨在避免云端数据传输。它基于 ONNX Runtime,支持多平台和 NPU 加速,提供简便的模型转换和推理功能,兼容 OpenAI API。oBeaver 结合了 Microsoft Foundry Local 和 ONNX Runtime,适用于多种场景,未来将增强 GPU 和 NPU 支持。
完成下面两步后,将自动完成登录并继续当前操作。