GPUUnlock

FP16 avec accumulateur FP32

La forme qu'utilisent la plupart des noyaux d'inférence. C'est ce chemin que la fuse SM speed-select bride sur Ada, d'où le doublement.

f16/f32 · TF/s · bridé par la fuse

2lignes
2modifiées
2.00×gain maximal

Comment ce mode a été mesuré

Register-resident mma.m16n16k16 issue rate, 8 independent accumulator chains per warp, best of three timed runs

Distance au pic de spécification

  • GeForce RTX 4090 : 330.8 TFLOP/s mesurés face à un pic de spécification de 330.3 TFLOP/s — 100.2% de celui-ci.
  • GeForce RTX 4070 Ti SUPER : 188.97 TFLOP/s mesurés face à un pic de spécification de 190.6 TFLOP/s — 99.1% de celui-ci.

330.3 TFLOP/s (Ada whitepaper, RTX 4090, 128 SMs, 2.52 GHz, FP16 dense) = 1024 FLOP/cycle/SM

1024 FLOP/cycle/SM (330.3 TFLOP/s ÷ 128 SMs ÷ 2.52 GHz) × 66 SMs × 2.82 GHz = 190.6 TFLOP/s

Toutes les cartes mesurées sur ce mode

ModeOrigineDéverrouilléGainCarte
f16/f32165.60 TFLOP/s330.80 TFLOP/s2.00×GeForce RTX 4090 · 128 SMs
f16/f3294.96 TFLOP/s188.97 TFLOP/s1.99×GeForce RTX 4070 Ti SUPER · 66 SMs

Même carte, même pilote, même binaire. Le déverrouillage est la seule variable.

Couverture

Seules les cartes ayant une mesure sur la même carte figurent dans le tableau. Une carte absente n'a pas été mesurée sur ce chemin, ce qui n'est pas un échec.

Autres modes mesurés