张东豪 / ZhangDonghao
职业目标:AI-HPC 领域专家
张东豪(ZhangDonghao)是 AI 与高性能计算(HPC)融合方向的基础设施工程师,长期从事智算集群、高速网络、AI 平台与调度系统的建设与交付,主导过多个大型 AI/HPC 集群项目,并持续运营 AI-HPC.org 技术门户与配套工具链。
工作经历
运维开发工程师(AI Infra 方向)
- 智算集群基础设施支持:为上海某运营商万卡级 AI 训练集群提供技术支持,负责 InfiniBand 高速网络的架构优化、性能监控与故障诊断,保障分布式训练任务的通信效率。
- AI 平台与工具链开发:使用 Python(Flask/Django)主导开发 AI Agent 服务平台,封装底层算力调用接口;利用 Docker 容器化技术快速部署和管理 AI 开发及推理环境(Dify、ComfyUI 等),提升算法工程师的研发效率。
- 自动化运维与监控:编写 Shell 脚本,开发自动化故障告警和日志分析工具,实现对集群关键指标的实时监控与快速响应。
- 云原生与 DevOps 实践:负责阿里云云效 DevOps 平台的日常管理,构建 CI/CD 流水线,并对智能客服等应用的云资源进行成本预测与性能评估,优化资源配置。
AI 和 HPC 产品交付经理(AI Infra 方向)
- 高性能计算集群搭建:主导并完成多个大型 AI/HPC 项目,包括清华大学 GPU 集群、北京大学 HPC 项目等,负责从服务器、存储、IB 交换机等硬件上架、布线,到操作系统、调度系统和 AI 软件栈的全流程部署与验收。
- 异构计算资源管理:深入掌握 Slurm 调度系统,负责 CPU+GPU 异构资源的统一调度与管理策略制定,编写调度脚本以优化科研计算和 AI 训练任务的资源分配与执行效率。
- 系统性能测试与调优:负责对集群的 CPU、内存、分布式存储、IB 网络及 GPU 进行全面的性能基准测试(如 HPL、NCCL Tests),分析瓶颈并进行系统级调优,确保集群整体性能达到最优。
- AI 平台部署与维护:核心负责浪潮 AIStation 人工智能平台的部署与运维,为用户提供模型训练、资源监控、任务管理等一站式服务,并提供技术培训与远程支持。
IT 技术支持讲师
- 负责 Linux、Shell、Python 等课程的教学,并指导学员部署 Docker、Nginx、Ceph 等分布式及容器化软件。
- 搭建并维护教学实验环境,使用 Prometheus + Grafana 构建服务器集群监控系统。
专业技能
- 编程语言:精通 Python、Shell;熟悉 C/C++,具备基础的 CUDA 编程能力。
- 分布式技术:熟悉 HPC 集群架构、InfiniBand 网络;掌握 Docker 容器化技术;了解 Kubernetes(K8s)容器编排。
- AI 框架与工具:熟悉 PyTorch/TensorFlow 等主流框架的训练流程;了解 Transformer、CNN 等模型基本原理。
- 资源调度与管理:精通 Slurm;了解异构计算(CPU+GPU)任务调度。
- 监控与运维:熟练使用 Prometheus、Grafana 进行系统监控;熟悉 Linux 系统管理与性能调优。
技术认证
- NVIDIA:基于提示词工程的大语言模型 LLM 应用、使用 CUDA 加速 C/C++ 应用、使用 DOCA 开发 DPU 应用
代表作品
- AI-HPC.org —— 本站门户:AI-HPC 智算超算专家站,含 14 章 AI/HPC 工程知识库
- AI-HPC 智能专家(chat.ai-hpc.org)—— 基于 Dify 搭建的 AI-HPC 问答与路径导航助手
- AIInfra 知识库 —— AI 基础设施系统化知识库(集群 / 存储网络 / 云原生 / 训练 / 推理)
- 技术博客系列 —— PyTorch 内部架构、Autograd、Triton/GPU 编程、NCCL 通信、编译器框架等深度文章
联系方式
- 邮箱:openaihpc@gmail.com
- GitHub:github.com/openaihpc