使用GPU训练神经网络的历史 - 蝈蝈俊
原文中文,约1800字,阅读约需5分钟。发表于: 。我在一台没有GPU支持的Mac电脑本上本地部署了stable-diffusion-webui,并生成了一张图。这张图大概需要10分钟的时间才能生成,但如果有GPU支持的话,只需要几秒钟就能完成。这让我深刻体会到GPU的算力比CPU强大得多。 GPU算力为啥远高于CPU 更多的处理单元 GPU在同样芯
GPU的算力比CPU强大得多,原因在于GPU集成了更多的处理单元,可以高度并行化,一次可以执行成千上万个线程,实现超高的计算粒度和吞吐量。此外,GPU的处理单元更简单,主要针对高度并行的矩阵和向量运算优化,内存带宽也更高,专门为大规模矩阵运算和数据访问优化。因此,使用GPU做机器学习已成为标配,最早的论文是2012年Alex Krizhevsky、Ilya Sutskever和Geoffrey E. Hinton发表的《ImageNet Classification with Deep Convolutional Neural Networks》。