GPUUnlock

BF16 avec accumulateur FP32

Même limitation que FP16/FP32, avec l'exposant plus large du BF16. L'entraînement et beaucoup de piles d'inférence préfèrent cette forme.

bf16/f32 · TF/s · bridé par la fuse

1lignes
1modifiées
2.00×gain maximal

Comment ce mode a été mesuré

Register-resident mma.m16n16k16 issue rate, 8 independent accumulator chains per warp, best of three timed runs

Distance au pic de spécification

  • GeForce RTX 4090 : 330.3 TFLOP/s mesurés face à un pic de spécification de 330.3 TFLOP/s — 100.0% de celui-ci.

330.3 TFLOP/s (Ada whitepaper, RTX 4090, 128 SMs, 2.52 GHz, FP16 dense) = 1024 FLOP/cycle/SM; measured BF16/FP32 is 189.6–189.7 TF/s vs 189.8–189.9 for FP16, i.e. the same rate (docs/ada-2705-report.md)

Toutes les cartes mesurées sur ce mode

ModeOrigineDéverrouilléGainCarte
bf16/f32165.50 TFLOP/s330.30 TFLOP/s2.00×GeForce RTX 4090 · 128 SMs

Même carte, même pilote, même binaire. Le déverrouillage est la seule variable.

Couverture

Seules les cartes ayant une mesure sur la même carte figurent dans le tableau. Une carte absente n'a pas été mesurée sur ce chemin, ce qui n'est pas un échec.

Autres modes mesurés