お前はどこまで見えている
·
并行异构计算概述
💡
原文中文，约2600字，阅读约需7分钟。
📝
内容提要
GPU和CPU在计算任务上有不同的适用性。GPU适合处理数据并行的计算密集型任务，而CPU适合处理控制密集型任务。NVIDIA的GPU计算平台有多个产品系列，包括Tegra、GeForce、Quadro、Tesla等。CUDA是一种通用的并行计算平台和编程模型，提供了运行时API和驱动API来管理GPU设备和组织线程。数据局部性在并行编程中很重要，包括时间局部性和空间局部性。
🎯
关键要点
- CPU 适合处理控制密集型任务，GPU 适合处理数据并行的计算密集型任务。
- CPU 核心重，处理复杂控制逻辑；GPU 核心轻，优化简单控制逻辑的数据并行任务。
- GPU 作为 CPU 的协处理器，通过 PCIe 总线与主机相连。
- NVIDIA 的 GPU 产品系列包括 Tegra、GeForce、Quadro、Tesla 等。
- CUDA 是一种通用的并行计算平台，提供运行时 API 和驱动 API 来管理 GPU 设备。
- GPU 性能评估指标包括峰值计算性能和内存带宽。
- 异构计算节点通常包括多核 CPU 和众核 GPU，主机代码在 CPU 上执行，设备代码在 GPU 上执行。
- CPU 和 GPU 的结合能提高大规模计算问题的处理速度与性能。
- CUDA 编程结构包括分配 GPU 内存、数据拷贝、调用内核函数、数据返回和释放内存。
- 数据局部性在并行编程中重要，包括时间局部性和空间局部性。
➡️
