第十四课：多 GPU 如何协同工作

这一课进入多 GPU 系统，先讲 PCIe、NVLink、NVSwitch，再讲数据并行、张量并行、流水线并行和 AllReduce，最后用 GB200 NVL72 串起来。