AI时代，芯片性能瓶颈从算力转向内存带宽。苹果、小米、英伟达等厂商通过统一内存、3D堆叠、HBM等技术提升数据传输速度，以应对大模型对数据的巨大需求。这源于“内存墙”问题，即算力增速远超内存带宽，导致处理器等待数据。未来芯片设计需让数据少走弯路，硬件物理法则仍不可逃避。

本文探讨了英伟达的“统一内存”架构，旨在合并CPU和GPU的内存，以提升性能和简化数据传输。文章分析了传统分离架构的局限性，强调统一内存在AI和游戏应用中的优势，同时指出其在内存类型选择和市场策略上的挑战。

Exo Labs将四台M3 Ultra Mac Studio串联成AI集群，通过Exo V2平台实现模型自动拆分与并行推理，提升本地推理能力，降低成本与功耗。苹果的统一内存架构为中小团队提供了新的AI应用定位。

CUDA统一内存（受管内存）是CUDA编程的基础，旨在简化内存管理并提高GPU与CPU之间的数据共享效率。