GPU 算力平台实战

GPU 算力平台实战：Rancher 2.13 纳管已有 GPU 集群（NVIDIA driver/toolkit/k8s-device-plugin/HAMi/vLLM 部署 + 集群纳管验证 + 故障案例）、K3s + HAMi vGPU 虚拟化集群搭建、UAT2 环境 AMD 7900 XTX 实测、vLLM 推理服务部署、Open WebUI / OpenUI / Jupyter Notebook GPU 环境、PyTorch 分布式训练，从集群搭建到模型训练的全链路实操指南。

---

文档导读

• RTX 2080 虚拟机 - vLLM + Open WebUI 部署 (k3s + HAMi vGPU)
• HAMi vGPU 实现原理
• HAMi vGPU 完整部署指南 (V100 版本)
• Jupyter Notebook GPU 环境部署指南
• PyTorch 分布式训练部署指南
• K3s + HAMi vGPU + vLLM + Open WebUI 完整部署指南
• Docker Registry 私有仓库部署
• vLLM 推理服务部署指南
• Open WebUI + Ollama 部署指南
• OpenUI + Ollama Qwen 27B (128K) 部署指南

GPU 集群部署实测（Rancher 纳管）

• Rancher v2.14.3 气隙环境部署操作手册
• RKE2 HA 集群 + Rancher v2.14.3 气隙部署操作手册

HAMi vGPU 节点排障记录

• 节点 192.168.122.37 集群初始化排查修复记录
• cattle-cluster-agent CrashLoopBackOff 排查修复记录(第二次)
• cattle-cluster-agent 彻底修复 + 磁盘扩容 + CA-Checksum 根因分析

UAT2 GPU 环境实测（AMD 7900 XTX）

• uat2-gpu 集群: 122.36 节点修复 + HAMi 部署 + AMD GPU 测试
• ComfyUI 动漫生成流水线部署文档

vLLM + AMD GPU vGPU 部署与运维手册

• 量化模型调研报告
• Qwen2.5-14B-Instruct-AWQ 部署记录