Deepseek V3是一款高效且价格合理的本地运行工具,适合日常使用。作者使用EPYC 9004系列服务器,配置为单CPU和384GB内存,运行Unsloth Dynamic GGUF模型,处理速度约为9-10个令牌/秒。尽管没有GPU,功耗低且性能接近原版。整体来看,Deepseek V3在本地运行的性价比高,适合多种应用场景。
完成下面两步后,将自动完成登录并继续当前操作。