ModelNest是一款跨平台本地大模型管理工具,支持Windows、macOS和Android,提供图形界面和CLI,简化模型安装、配置和运行。它支持GGUF格式,可管理模型、调整GPU/CPU资源,并具备状态监控和诊断功能。本地推理保障隐私,适合个人用户和AI爱好者,授权永久有效,最多绑定2台设备。
完成下面两步后,将自动完成登录并继续当前操作。