07. 异构计算

本章定位：异构计算的"落地层"。上层并行策略把模型切到多卡，本章负责让这些卡真正跑起来——环境（驱动/CUDA）、资源（调度/队列）、策略（混布/选型）三件事，缺一件都跑不起来。

文章目录

1. GPU 驱动及 CUDA 安装流程指南 —— Linux 全平台（CentOS/Ubuntu/SUSE）驱动与 CUDA Toolkit 安装 SOP，含 SXM Fabric Manager 配置。
2. Slurm 异构调度实战：CPU/GPU 混合集群的资源管理 —— gres 资源声明、分区与 QOS 公平性、异构 GPU 分类（Feature）、混算集群调度策略与常见坑。
3. GPU 资源切分实战：MIG、vGPU 与多租户共享 —— 一张卡怎么切给多个作业/租户：MIG 硬件隔离、vGPU 虚拟化、软切分的选型与 Slurm 集成，隔离边界与通信路径等实战坑。

📌 规划中：异构混布选型（训练卡 + 推理卡同集群）、Triton 算子开发入门、异构集群监控与作业效率分析。

阅读路径建议

• 搭建环境：先读 CUDA 安装 SOP，建立干净基线。
• 管理集群：直接进 Slurm 异构调度——真实集群 80% 的异构问题出在调度，不在硬件。
• 做性能优化：结合训练章（分布式并行）理解 GPU 如何被切分，再回看本章的调度约束。

关键结论速览

• 异构集群调度三原则：分区隔离资源、QOS 控制公平、backfill 保证利用率。
• gres 是 Slurm 的"通用语"：声明对不上，作业永远 PENDING；声明对了，一张卡到整节点都可弹性分配。
• 异构 GPU 混布按节点分型，节点内同型——驱动与 FM 的系统级约束决定了这是最省心的结构。