以 cuBLAS GEMM 测得的 FP16/FP32

与上面发射率行是不同测量:Turing 上真实 cuBLAS GEMM,四个 M.N.K 尺寸。其 1.36–1.64× 不可与 Ada 的发射率数字混算。

f16/f32 · TFLOP/s · 受熔丝限速

4行实测
4行有变化
1.64×最高增益

这个模式是怎么测的

cuBLAS GEMM, M.N.K 1024/2048/4096/8192, as tabulated in the nlzy/turing-unlock README

与规格峰值的距离

  • GeForce RTX 2080 Ti:实测 68.3 TFLOP/s,规格峰值为 56.9 TFLOP/s,达到 120.0%。
  • GeForce RTX 2080 Ti:实测 91.4 TFLOP/s,规格峰值为 56.9 TFLOP/s,达到 160.6%。
  • GeForce RTX 2080 Ti:实测 81.7 TFLOP/s,规格峰值为 56.9 TFLOP/s,达到 143.6%。
  • GeForce RTX 2080 Ti:实测 77.9 TFLOP/s,规格峰值为 56.9 TFLOP/s,达到 136.9%。

68 SMs × 512 FLOP/cycle/SM × 1.635 GHz = 56.92 TFLOP/s (Turing FP16→FP32 tensor rate)

该模式下所有实测显卡

模式原厂解锁后增益显卡
f16/f3250.30 TFLOP/s68.30 TFLOP/s1.36×GeForce RTX 2080 Ti · 68 SMs
f16/f3255.70 TFLOP/s91.40 TFLOP/s1.64×GeForce RTX 2080 Ti · 68 SMs
f16/f3253.70 TFLOP/s81.70 TFLOP/s1.52×GeForce RTX 2080 Ti · 68 SMs
f16/f3252.80 TFLOP/s77.90 TFLOP/s1.48×GeForce RTX 2080 Ti · 68 SMs

同一张卡、同一驱动、同一二进制,唯一变量是是否解锁。

覆盖范围

表中只出现有同卡实测的显卡。未出现在表里的卡表示这条路径尚未测过,不等于测失败。

其他已实测模式