Mac Studio M3 Ultra使用体验
内容提要
作者分享了使用512GiB内存的Mac Studio M3 Ultra进行远程操作和运行LLM模型的体验。尽管配置简单，但遇到内存压力和程序卡死的问题。最终选择了LM Studio，发现其功能更强大。虽然性能优秀，但作者认为除了LLM外，其他用途较少，感到有些浪费。
关键要点
-
作者使用512GiB内存的Mac Studio M3 Ultra进行远程操作和运行LLM模型的体验。
-
配置远程使用Mac Studio相对简单，但需要注意设置共享和SSH。
-
远程桌面支持高性能模式，提供更好的使用体验，但对网络要求高。
-
作者最初选择Xinference运行LLM，但遇到内存压力和程序卡死的问题。
-
最终选择LM Studio，发现其功能更强大，支持KV Cache量化和更长的上下文。
-
在测试中，Qwen3模型的表现优于DeepSeek-R1，但仍有改进空间。
-
UTM虚拟机测试失败，显示ARM处理器与x86处理器的差异。
-
Asahi Linux在M3 Ultra芯片上无法安装，未来可能无法在新芯片上运行Linux。
-
虽然Mac Studio性能强大，但作者认为除了LLM外，其他用途较少，感到有些浪费。
延伸解读
远程操作的优势与挑战
使用Mac Studio进行远程操作时，用户可以享受到高性能的屏幕共享体验，尤其是在局域网内。然而，网络条件的要求较高，若在不稳定的网络环境下，可能会影响使用体验。此外，配置SSH和共享设置也需谨慎，以确保远程连接的顺畅。
LLM模型的选择与性能
在运行LLM模型时，选择合适的框架至关重要。作者从Xinference转向LM Studio，后者提供了更强大的功能和更好的性能，尤其是在处理长上下文时。用户在选择框架时应考虑其文档质量和社区支持，以避免不必要的麻烦。
虚拟化测试的局限性
在Mac Studio上进行虚拟化测试时，作者发现ARM架构与x86架构之间存在显著差异，导致某些操作无法成功。这提醒用户在选择虚拟化解决方案时，需关注硬件兼容性和支持情况，特别是在新芯片上运行Linux等操作系统时。
延伸问答
Mac Studio M3 Ultra的远程使用配置步骤是什么？
在设置中打开远程管理和SSH，确保允许远程用户对磁盘进行完全访问。
作者在使用Mac Studio M3 Ultra时遇到了哪些问题？
作者遇到了内存压力和程序卡死的问题，尤其是在使用Xinference时。
为什么作者最终选择了LM Studio而不是Xinference？
因为LM Studio功能更强大，支持KV Cache量化和更长的上下文，且社区活跃。
Mac Studio M3 Ultra在运行LLM模型时的性能表现如何？
在本地运行LLM模型时速度非常快，达到20T/s，风扇声音很小。
作者对Mac Studio M3 Ultra的总体看法是什么？
虽然性能强大，但除了LLM外，其他用途较少，感到有些浪费。
在测试中，Qwen3模型与DeepSeek-R1模型的表现如何？
Qwen3模型的表现优于DeepSeek-R1，但仍有改进空间。
