当前高端NVIDIA显卡及其服务器和电力成本高昂，尤其在运行大型模型时。苹果硬件和DGX Spark是可行的替代方案。Mac Studio M3 Ultra在处理速度上表现尚可，但未来本地推理的成本和内存短缺令人担忧。使用多台MacBook M5 Max进行分布式推理可能是一个有趣的方向，结合不同模型的优势可能提高性能。