FP16 配 FP32 累加器

多数推理内核使用的形状。Ada 上正是这条路径被 SM speed-select 熔丝限速,所以解锁能让它翻倍。

f16/f32 · TF/s · 受熔丝限速

2行实测
2行有变化
2.00×最高增益

这个模式是怎么测的

Register-resident mma.m16n16k16 issue rate, 8 independent accumulator chains per warp, best of three timed runs

与规格峰值的距离

  • GeForce RTX 4090:实测 330.8 TFLOP/s,规格峰值为 330.3 TFLOP/s,达到 100.2%。
  • GeForce RTX 4070 Ti SUPER:实测 188.97 TFLOP/s,规格峰值为 190.6 TFLOP/s,达到 99.1%。

330.3 TFLOP/s (Ada whitepaper, RTX 4090, 128 SMs, 2.52 GHz, FP16 dense) = 1024 FLOP/cycle/SM

1024 FLOP/cycle/SM (330.3 TFLOP/s ÷ 128 SMs ÷ 2.52 GHz) × 66 SMs × 2.82 GHz = 190.6 TFLOP/s

该模式下所有实测显卡

模式原厂解锁后增益显卡
f16/f32165.60 TFLOP/s330.80 TFLOP/s2.00×GeForce RTX 4090 · 128 SMs
f16/f3294.96 TFLOP/s188.97 TFLOP/s1.99×GeForce RTX 4070 Ti SUPER · 66 SMs

同一张卡、同一驱动、同一二进制,唯一变量是是否解锁。

覆盖范围

表中只出现有同卡实测的显卡。未出现在表里的卡表示这条路径尚未测过,不等于测失败。

其他已实测模式