Kubernetes GPU LLM部署完整指南：NVIDIA GPU Operator配置（自动管理GPU驱动和device plugin；节点标签gpu.nvidia.com/class标识GPU型号；资源限制nvidia.com/gpu: 1-8）；LLM推理服务部署（vLLM/TGI容器化；ReadinessProbe模型加载完成检测；资源请求和限制配置）；自动扩缩容（KEDA基于队列长度的GPU Pod扩缩容；HPA CPU利用率触发；Cluster Autoscaler按需添加GPU节点）；多GPU分布式推理（张量并行TP=4时需要4个GPU同一节点；StatefulSet保证稳定的网络标识；InfiniBand网络配置高速GPU互联）；监控和可观测性（DCGM Exporter GPU指标；Prometheus+Grafana可视化；GPU利用率/显存/功耗告警）；成本优化（Spot/Preemptible实例+节点亲和性；模型热部署减少启动时间；空闲时缩容至0）。