FP8 E4M3 über CUTLASS

Ein echter GEMM-Kernel statt einer Issue-Rate-Schleife. Gemessen 1.0029× — der klarste Beleg, dass FP8 nie begrenzt war.

e4m3/f32 · GFLOP/s · nie begrenzt

1Zeilen
0verändert
1.00×höchster Gewinn

Wie dieser Modus gemessen wurde

CUTLASS 4.8.1 profiler, one cutlass_tensorop_s16832gemm_e4m3_128x128_64x3_tn_align16 kernel, 4096³, 10 warmups, 20 profiling iterations, device reference required

Abstand zur Spezifikationsspitze

  • GeForce RTX 4070 Ti SUPER: gemessene 59495 GFLOP/s gegenüber einer Spezifikationsspitze von 176400 GFLOP/s — 33.7% davon.

330.3 TFLOP/s (Ada whitepaper, RTX 4090, 128 SMs, 2.52 GHz, FP8 dense) × 66/128 SMs × 2.61/2.52 GHz = ~176.4 TFLOP/s

Alle auf diesem Modus gemessenen Karten

ModusSerieEntsperrtGewinnKarte
e4m3/f3259325.80 GFLOP/s59495.00 GFLOP/s1.00×GeForce RTX 4070 Ti SUPER · 66 SMs

Gleiche Karte, gleicher Treiber, gleiches Binary. Die einzige Variable ist der Unlock.

Abdeckung

Nur Karten mit einer Messung derselben Karte erscheinen in der Tabelle. Eine fehlende Karte wurde auf diesem Pfad nicht gemessen, was nicht dasselbe ist wie durchgefallen.

Weitere gemessene Modi