GPUUnlock

BF16 mit FP32-Akkumulator

Dieselbe Begrenzung wie FP16/FP32, mit breiterem Exponenten bei BF16. Training und viele Inferenz-Stacks bevorzugen diese Form.

bf16/f32 · TF/s · durch die Fuse begrenzt

1Zeilen
1verändert
2.00×höchster Gewinn

Wie dieser Modus gemessen wurde

Register-resident mma.m16n16k16 issue rate, 8 independent accumulator chains per warp, best of three timed runs

Abstand zur Spezifikationsspitze

  • GeForce RTX 4090: gemessene 330.3 TFLOP/s gegenüber einer Spezifikationsspitze von 330.3 TFLOP/s — 100.0% davon.

330.3 TFLOP/s (Ada whitepaper, RTX 4090, 128 SMs, 2.52 GHz, FP16 dense) = 1024 FLOP/cycle/SM; measured BF16/FP32 is 189.6–189.7 TF/s vs 189.8–189.9 for FP16, i.e. the same rate (docs/ada-2705-report.md)

Alle auf diesem Modus gemessenen Karten

ModusSerieEntsperrtGewinnKarte
bf16/f32165.50 TFLOP/s330.30 TFLOP/s2.00×GeForce RTX 4090 · 128 SMs

Gleiche Karte, gleicher Treiber, gleiches Binary. Die einzige Variable ist der Unlock.

Abdeckung

Nur Karten mit einer Messung derselben Karte erscheinen in der Tabelle. Eine fehlende Karte wurde auf diesem Pfad nicht gemessen, was nicht dasselbe ist wie durchgefallen.

Weitere gemessene Modi