TF32 avec accumulateur FP32

Entrées TF32 19 bits, visant le débit d'entraînement. Également bridé par la fuse sur Ada et presque doublé.

tf32 · TFLOP/s · bridé par la fuse

1lignes

1modifiées

1.99×gain maximal

Comment ce mode a été mesuré

Register-resident MMA issue rate at a 240 W cap, 20,000 iterations, three timed reps, all 270,336 output cells checked per state

Toutes les cartes mesurées sur ce mode

Mode	Origine	Déverrouillé	Gain	Carte
`tf32`	47.49 TFLOP/s	94.51 TFLOP/s	1.99×	GeForce RTX 4070 Ti SUPER · 66 SMs

Même carte, même pilote, même binaire. Le déverrouillage est la seule variable.

Couverture

Seules les cartes ayant une mesure sur la même carte figurent dans le tableau. Une carte absente n'a pas été mesurée sur ce chemin, ce qui n'est pas un échec.

Autres modes mesurés

FP16 avec accumulateur FP16 · 1
FP16 avec accumulateur FP32 · 2
BF16 avec accumulateur FP32 · 1
INT8 avec accumulateur INT32 · 1
INT4 avec accumulateur INT32 · 1
FP8 E4M3 via CUTLASS · 1
Le produit scalaire entier dp4a · 1
FMA scalaire FP32 · 1
FP16/FP32 en GEMM cuBLAS · 4