GPU遥测异常：A100闲置功耗达146瓦（白皮书）
一份白皮书揭示，NVIDIA A100 GPU在报告利用率0%的情况下，功耗可达146.66瓦，暴露了GPU遥测中的关键盲点。作者提出新的能效基准（CEI）和开源优化器来检测此类“幽灵”异常。
文章情报
要点
- 报告的GPU利用率可能为0%，但实际功耗超过146瓦，导致隐藏的能源浪费。
- NVIDIA的MIG分析限制在多租户云环境中造成可观测性缺口。
- 计算能效强度（CEI）基准标准化了每焦耳的FLOPs，用于跨供应商比较。
- 开源GPU能源优化器可检测GHOST和DESYNC异常，并提供可操作的优化方案。
为什么重要
这条新闻值得关注，因为报告的GPU利用率可能为0%，但实际功耗超过146瓦，导致隐藏的能源浪费。
技术影响
可能影响模型选型、推理成本、产品能力和评测基准。
标准GPU遥测工具（如nvidia-smi、Prometheus NVML导出器）假设低利用率等于低功耗和无用工作，但事实并非如此。在NVIDIA A100 SXM GPU上的受控硬件测试中，我们测量到一款GPU在报告0%利用率的情况下，功耗达到146.66瓦，并持续超过11分钟。我们将此称为“GHOST异常”——物理上不可能的遥测数据，导致集群过度配置、能源浪费和错误的扩缩容决策。
此外，NVIDIA官方文档确认，分析共享GPU资源（MIG分区）不受支持，这在多租户云环境中造成了盲点，遥测不同步（DESYNC）可能悄然隐藏问题。为解决这一问题，我们开发了开源GPU能源优化器，可实时检测GHOST和DESYNC异常，并提出计算能效强度（CEI）基准——一种标准化的每焦耳FLOPs测量方法，以实现透明的跨供应商能效比较。
测试方法包括在RunPod（NVIDIA A100 SXM 40GB和H100 SXM）上进行的35次验证测试，所有测试均为个人自费，无赞助。测试覆盖了闲置基线、幽灵功耗检测、采样率敏感性、负载斜坡等场景。关键发现：A100在闲置时的真实功耗为66-68瓦，而幽灵功耗高达146.66瓦，超出约79.66瓦，原因不明。对于500块GPU的集群，这种隐藏浪费每天导致约150美元的电费和冷却费用。
我们提出的CEI基准定义为：CEI = 总FLOPs / 总能耗（焦耳）。A100 SXM的参考值为5.68B FLOPs/J（良好等级）。优化器提供实时异常检测、CEI基准测试、Kubernetes/ Run:ai集成以及Grafana+Prometheus可观测性栈。通过流重叠和双缓冲技术，可减少约40%的空闲能耗，并将CEI提升25%。
我们正在寻求GPU云合作伙伴、研究合作以及可观测性专家，以在500-1000块GPU上验证系统。所有测试均为个人自费，现已准备扩大规模。