ddadaal.me
·
可划分显存 != 统一内存：AI Max+ 395 64G AI推理性能
💡
原文中文，约4000字，阅读约需10分钟。
📝
内容提要
文章讨论了HP战99 Ultra笔记本在AI推理中的表现，搭载AMD AI Max+ 395处理器。分析了显存与统一内存的区别，并测试了不同模型的推理性能，指出显存分配的局限性。尽管性能不及高端显卡，但在特定场景下仍能运行一些模型，适合小主机使用。
🎯
关键要点
- HP战99 Ultra笔记本搭载AMD AI Max+ 395处理器，适合AI推理场景。
- 可划分显存与统一内存的区别：可划分显存需要静态分配，统一内存灵活性更高。
- 在AI推理测试中，Vulkan在32G专用显存下表现优异，速度远超ROCm。
- MoE模型的上下文长度可扩展，最大支持198K，但需要足够的显存。
- Qwen 3 VL 32B模型在显存不足时推理速度较慢，且无法正常加载。
- 内存划分为显存的操作失去灵活性，且内存与显存之间的数据拷贝频繁影响性能。
- HP战99 Ultra的优点在于能够运行一些高显存需求的模型，成本相对较低。
- 适合小主机使用，能够在日常使用中分配显存，性能释放超过100W。
❓
延伸问答
HP战99 Ultra笔记本的主要硬件配置是什么？
HP战99 Ultra笔记本搭载AMD Ryzen AI Max+ 395处理器，内存为64G LPDDR5，显卡为Radeon 8060S，支持可划分显存。
可划分显存和统一内存有什么区别？
可划分显存需要静态分配内存给GPU使用，而统一内存则允许CPU和GPU共享内存，无需显式分配，灵活性更高。
在AI推理测试中，Vulkan和ROCm的表现如何？
在测试中，Vulkan在32G专用显存下的推理速度显著优于ROCm，显示出更高的性能。
HP战99 Ultra适合哪些使用场景？
HP战99 Ultra适合小主机使用，能够运行一些高显存需求的模型，且成本相对较低。
在显存不足的情况下，Qwen 3 VL 32B模型的表现如何？
在显存不足时，Qwen 3 VL 32B模型推理速度较慢，且无法正常加载。
HP战99 Ultra的显存划分有什么限制？
显存划分操作失去灵活性，且每次切换显存需要重启，划分后的内存不能再作为系统内存使用。
🏷️
标签
➡️
