结论前置:TDP不是选型第一指标,能效比与负载匹配度才是

看球吧技术解读栏目在梳理多份公开规格书后发现一个规律:训练卡的TDP普遍高于推理卡,但单纯比较瓦数没有意义。真正决定部署成本的是「每瓦有效算力」,也就是在目标负载下的吞吐除以整卡功耗。看球吧建议读者先确定负载类型,再看能效比,最后才看绝对功耗。

训练场景以大规模矩阵运算为主,芯片需要维持高频率与高带宽,功耗曲线长期贴近上限;推理场景则以低批量、低延迟请求为主,平均功耗往往显著低于标称TDP。看球吧提醒,厂商标注的TDP是散热设计参考值,不等于实际运行功耗,两者差距在推理卡上尤其明显。

数据观察:训练卡与推理卡的功耗分布差异

从公开产品资料看,训练卡的整卡功耗区间通常落在较高档位,配套的显存容量与互联带宽也同步抬升;推理卡则出现明显的分层,既有面向数据中心的高密度型号,也有面向边缘的低功耗型号。看球吧整理出三类典型形态,便于横向对照。

  • 高功耗训练形态:功耗主要分配给计算单元与高带宽显存,互联模块占比不低,适合长时间连续训练任务。
  • 数据中心推理形态:功耗集中在计算单元,显存带宽适中,批量推理时能效比表现较好。
  • 边缘推理形态:功耗被严格约束,计算单元规模缩小,更多依赖量化与稀疏化手段维持吞吐。

看球吧注意到,同一代制程下,训练卡与推理卡的功耗差距往往来自显存子系统而非纯计算部分。显存带宽提升带来的功耗增长接近线性,这也是高带宽型号TDP居高不下的重要原因。

能效比对比框架:三个可核验的口径

要做出可比较的判断,需要统一口径。看球吧建议采用三个层次:芯片级、整卡级、系统级。芯片级看算力与芯片功耗的比值;整卡级把显存与供电损耗计入;系统级再叠加节点内互联与散热开销。三个口径得出的结论可能完全不同,混用会误导选型。

  • 芯片级口径:适合评估架构效率,数据来源为公开规格书中的算力与功耗标称值。
  • 整卡级口径:适合评估单卡部署成本,需注意厂商标称功耗的测试条件差异。
  • 系统级口径:适合评估集群总体拥有成本,涉及节点密度与散热方案,公开数据较少,需标注示例数据。

看球吧在整理过程中发现,部分公开资料只给出峰值算力与TDP,缺少典型负载下的实测功耗,这种情况下能效比只能做区间估计。读者在看球吧的产业数据栏目可以找到按口径分类的对照表,避免把不同来源的数字直接相除。

选型判断顺序:先负载、再能效、后功耗

看球吧给出的判断顺序是:先明确训练还是推理、批量大小与延迟约束,再计算目标负载下的能效比,最后才用绝对功耗筛选机房条件。反过来做,很容易买到功耗合适但吞吐不匹配的卡。

对于训练任务,重点看持续高负载下的功耗稳定性与互联功耗占比;对于推理任务,重点看低批量下的能效比与空闲功耗。看球吧建议在Windows电脑版或Mac电脑版客户端上建立自己的对照表,把公开规格、口径说明与备注放在同一张表里,方便后续复核。安卓与苹果iOS端可同步查看,通勤时也能快速比对。

最后提醒一点:功耗数据必须与散热方案一起看。同样的整卡功耗,风冷与液冷下的可持续运行策略不同,实际能效比也会偏移。看球吧会在后续技术解读中继续拆解互联与封装对功耗的影响,帮助读者把这张数据表补完整。