本文讨论了GPU访存优化的两个关键问题：合并访问和bank冲突。合并访问通过相邻线程访问相邻地址来提高带宽，而bank冲突是多个线程访问同一bank导致的性能下降。使用padding和向量化技术可以进一步提升带宽利用率。在矩阵转置操作中，使用shared memory可以有效解决访存模式问题。

本文探讨了AI计算栈中的算子工程，分析了算子在框架、算子库、手写kernel、编译和硬件指令层的关系。强调在特定场景下手写kernel的必要性，如多算子融合和新算子实现。指出性能瓶颈常源于访存，建议使用profiler定位瓶颈后再优化。最后提供了CUDA基础学习路径和性能优化的核心结论。

AStitch通过编译优化的手段来自动化地提高机器学习任务的执行效率, 提出了一种大粒度计算融合的编译优化手段，从而大幅减少GPU kernel调用，避免了不必要的重复计算。