GPUUnlock

BF16 配 FP32 累加器

限速机理与 FP16/FP32 相同，但 BF16 指数位更宽。训练和许多推理栈更偏好这个形状。

bf16/f32 · TF/s · 受熔丝限速

1行实测
1行有变化
2.00×最高增益

这个模式是怎么测的

Register-resident mma.m16n16k16 issue rate, 8 independent accumulator chains per warp, best of three timed runs

与规格峰值的距离

  • GeForce RTX 4090：实测 330.3 TFLOP/s，规格峰值为 330.3 TFLOP/s，达到 100.0%。

330.3 TFLOP/s (Ada whitepaper, RTX 4090, 128 SMs, 2.52 GHz, FP16 dense) = 1024 FLOP/cycle/SM; measured BF16/FP32 is 189.6–189.7 TF/s vs 189.8–189.9 for FP16, i.e. the same rate (docs/ada-2705-report.md)

该模式下所有实测显卡

模式原厂解锁后增益显卡
bf16/f32165.50 TFLOP/s330.30 TFLOP/s2.00×GeForce RTX 4090 · 128 SMs

同一张卡、同一驱动、同一二进制，唯一变量是是否解锁。

覆盖范围

表中只出现有同卡实测的显卡。未出现在表里的卡表示这条路径尚未测过，不等于测失败。

其他已实测模式