💡
原文中文,约700字,阅读约需2分钟。
📝
内容提要
使用14寸MacBook Pro M5 Max(64GB内存)本地运行大模型的成本高于在线API。经过电费和硬件折旧计算,3年使用的总成本约为每小时$0.18,而在线模型速度更快且成本更低,建议直接使用在线服务。
🎯
关键要点
-
使用14寸MacBook Pro M5 Max(64GB内存)本地运行大模型的速度比在线API慢。
-
本地运行大模型的实际成本高于在线API,经过电费和硬件折旧计算,3年使用的总成本约为每小时$0.18。
-
电费成本估算:功耗50W每小时电费约$0.009,100W每小时电费约$0.018。
-
M5 Max MacBook Pro的硬件成本按使用寿命摊销,3年使用的每小时硬件成本约为$0.16。
-
本地LLM的综合成本(电费 + 硬件)在3年内约为每小时$0.18。
-
在线模型的速度约为本地模型的2倍,且成本更低,建议直接使用在线服务。
➡️