用苹果 M5 Max 跑大模型真的省钱吗?有人算了一笔账

用苹果 M5 Max 跑大模型真的省钱吗?有人算了一笔账

💡 原文中文,约700字,阅读约需2分钟。
📝

内容提要

使用14寸MacBook Pro M5 Max(64GB内存)本地运行大模型的成本高于在线API。经过电费和硬件折旧计算,3年使用的总成本约为每小时$0.18,而在线模型速度更快且成本更低,建议直接使用在线服务。

🎯

关键要点

  • 使用14寸MacBook Pro M5 Max(64GB内存)本地运行大模型的速度比在线API慢。

  • 本地运行大模型的实际成本高于在线API,经过电费和硬件折旧计算,3年使用的总成本约为每小时$0.18。

  • 电费成本估算:功耗50W每小时电费约$0.009,100W每小时电费约$0.018。

  • M5 Max MacBook Pro的硬件成本按使用寿命摊销,3年使用的每小时硬件成本约为$0.16。

  • 本地LLM的综合成本(电费 + 硬件)在3年内约为每小时$0.18。

  • 在线模型的速度约为本地模型的2倍,且成本更低,建议直接使用在线服务。

➡️

继续阅读