FP8 E4M3 via CUTLASS

Un vrai noyau GEMM, pas une boucle de débit d'émission. Mesuré 1,0029× : la preuve la plus nette que FP8 n'a jamais été bridé.

e4m3/f32 · GFLOP/s · jamais bridé

1lignes
0modifiées
1.00×gain maximal

Comment ce mode a été mesuré

CUTLASS 4.8.1 profiler, one cutlass_tensorop_s16832gemm_e4m3_128x128_64x3_tn_align16 kernel, 4096³, 10 warmups, 20 profiling iterations, device reference required

Distance au pic de spécification

  • GeForce RTX 4070 Ti SUPER : 59495 GFLOP/s mesurés face à un pic de spécification de 176400 GFLOP/s — 33.7% de celui-ci.

330.3 TFLOP/s (Ada whitepaper, RTX 4090, 128 SMs, 2.52 GHz, FP8 dense) × 66/128 SMs × 2.61/2.52 GHz = ~176.4 TFLOP/s

Toutes les cartes mesurées sur ce mode

ModeOrigineDéverrouilléGainCarte
e4m3/f3259325.80 GFLOP/s59495.00 GFLOP/s1.00×GeForce RTX 4070 Ti SUPER · 66 SMs

Même carte, même pilote, même binaire. Le déverrouillage est la seule variable.

Couverture

Seules les cartes ayant une mesure sur la même carte figurent dans le tableau. Une carte absente n'a pas été mesurée sur ce chemin, ce qui n'est pas un échec.

Autres modes mesurés