FP16/FP32 als cuBLAS-GEMM

Eine andere Messung als die Issue-Rate-Zeilen oben: ein echtes cuBLAS-GEMM auf Turing bei vier M.N.K-Größen. Die 1.36–1.64× dürfen nicht mit den Ada-Issue-Rate-Werten gemittelt werden.

f16/f32 · TFLOP/s · durch die Fuse begrenzt

4Zeilen
4verändert
1.64×höchster Gewinn

Wie dieser Modus gemessen wurde

cuBLAS GEMM, M.N.K 1024/2048/4096/8192, as tabulated in the nlzy/turing-unlock README

Abstand zur Spezifikationsspitze

  • GeForce RTX 2080 Ti: gemessene 68.3 TFLOP/s gegenüber einer Spezifikationsspitze von 56.9 TFLOP/s — 120.0% davon.
  • GeForce RTX 2080 Ti: gemessene 91.4 TFLOP/s gegenüber einer Spezifikationsspitze von 56.9 TFLOP/s — 160.6% davon.
  • GeForce RTX 2080 Ti: gemessene 81.7 TFLOP/s gegenüber einer Spezifikationsspitze von 56.9 TFLOP/s — 143.6% davon.
  • GeForce RTX 2080 Ti: gemessene 77.9 TFLOP/s gegenüber einer Spezifikationsspitze von 56.9 TFLOP/s — 136.9% davon.

68 SMs × 512 FLOP/cycle/SM × 1.635 GHz = 56.92 TFLOP/s (Turing FP16→FP32 tensor rate)

Alle auf diesem Modus gemessenen Karten

ModusSerieEntsperrtGewinnKarte
f16/f3250.30 TFLOP/s68.30 TFLOP/s1.36×GeForce RTX 2080 Ti · 68 SMs
f16/f3255.70 TFLOP/s91.40 TFLOP/s1.64×GeForce RTX 2080 Ti · 68 SMs
f16/f3253.70 TFLOP/s81.70 TFLOP/s1.52×GeForce RTX 2080 Ti · 68 SMs
f16/f3252.80 TFLOP/s77.90 TFLOP/s1.48×GeForce RTX 2080 Ti · 68 SMs

Gleiche Karte, gleicher Treiber, gleiches Binary. Die einzige Variable ist der Unlock.

Abdeckung

Nur Karten mit einer Messung derselben Karte erscheinen in der Tabelle. Eine fehlende Karte wurde auf diesem Pfad nicht gemessen, was nicht dasselbe ist wie durchgefallen.

Weitere gemessene Modi