AI时代，芯片性能瓶颈从算力转向内存带宽。苹果、小米、英伟达等厂商通过统一内存、3D堆叠、HBM等技术提升数据传输速度，以应对大模型对数据的巨大需求。这源于“内存墙”问题，即算力增速远超内存带宽，导致处理器等待数据。未来芯片设计需让数据少走弯路，硬件物理法则仍不可逃避。

传统计算机架构从固定程序计算机发展到存储程序计算机，冯·诺依曼架构将程序与数据存储在同一内存中，提升了灵活性。随着人工智能的发展，计算机架构面临内存墙、功率墙及专用与通用计算的平衡挑战。可能的解决方案包括内存内处理、类脑计算、光计算和量子计算。