可划分显存 != 统一内存：AI Max+ 395 64G AI推理性能
💡
原文中文，约4000字，阅读约需10分钟。
📝
内容提要
文章讨论了HP战99 Ultra笔记本在AI推理中的表现，搭载AMD AI Max+ 395处理器。分析了显存与统一内存的区别，并测试了不同模型的推理性能，指出显存分配的局限性。尽管性能不及高端显卡，但在特定场景下仍能运行一些模型，适合小主机使用。
🎯
关键要点
- HP战99 Ultra笔记本搭载AMD AI Max+ 395处理器，适合AI推理场景。
- 可划分显存与统一内存的区别：可划分显存需要静态分配，统一内存灵活性更高。
- 在AI推理测试中，Vulkan在32G专用显存下表现优异，速度远超ROCm。
- MoE模型的上下文长度可扩展，最大支持198K，但需要足够的显存。
- Qwen 3 VL 32B模型在显存不足时推理速度较慢，且无法正常加载。
- 内存划分为显存的操作失去灵活性，且内存与显存之间的数据拷贝频繁影响性能。
- HP战99 Ultra的优点在于能够运行一些高显存需求的模型，成本相对较低。
- 适合小主机使用，能够在日常使用中分配显存，性能释放超过100W。
🏷️
标签
➡️
