FP16 mit FP32-Akkumulator

Die Form, die die meisten Inferenz-Kernel nutzen. Genau dieser Pfad wird auf Ada durch die SM-Speed-Select-Fuse begrenzt, weshalb ein Unlock ihn verdoppelt.

f16/f32 · TF/s · durch die Fuse begrenzt

2Zeilen
2verändert
2.00×höchster Gewinn

Wie dieser Modus gemessen wurde

Register-resident mma.m16n16k16 issue rate, 8 independent accumulator chains per warp, best of three timed runs

Abstand zur Spezifikationsspitze

  • GeForce RTX 4090: gemessene 330.8 TFLOP/s gegenüber einer Spezifikationsspitze von 330.3 TFLOP/s — 100.2% davon.
  • GeForce RTX 4070 Ti SUPER: gemessene 188.97 TFLOP/s gegenüber einer Spezifikationsspitze von 190.6 TFLOP/s — 99.1% davon.

330.3 TFLOP/s (Ada whitepaper, RTX 4090, 128 SMs, 2.52 GHz, FP16 dense) = 1024 FLOP/cycle/SM

1024 FLOP/cycle/SM (330.3 TFLOP/s ÷ 128 SMs ÷ 2.52 GHz) × 66 SMs × 2.82 GHz = 190.6 TFLOP/s

Alle auf diesem Modus gemessenen Karten

ModusSerieEntsperrtGewinnKarte
f16/f32165.60 TFLOP/s330.80 TFLOP/s2.00×GeForce RTX 4090 · 128 SMs
f16/f3294.96 TFLOP/s188.97 TFLOP/s1.99×GeForce RTX 4070 Ti SUPER · 66 SMs

Gleiche Karte, gleicher Treiber, gleiches Binary. Die einzige Variable ist der Unlock.

Abdeckung

Nur Karten mit einer Messung derselben Karte erscheinen in der Tabelle. Eine fehlende Karte wurde auf diesem Pfad nicht gemessen, was nicht dasselbe ist wie durchgefallen.

Weitere gemessene Modi