GPU 架构学习
第十四课:多 GPU 如何协同工作
这一课进入多 GPU 系统,先讲 PCIe、NVLink、NVSwitch,再讲数据并行、张量并行、流水线并行和 AllReduce,最后用 GB200 NVL72 串起来。
Tag
共 2 篇文章。
这一课进入多 GPU 系统,先讲 PCIe、NVLink、NVSwitch,再讲数据并行、张量并行、流水线并行和 AllReduce,最后用 GB200 NVL72 串起来。
我会用最基础的层次,把 Blackwell 的定位、核心改进和它解决什么问题讲清楚。