GPUUnlock

BF16 con acumulador FP32

Misma limitación que FP16/FP32, con el exponente más amplio de BF16. Entrenamiento y muchas pilas de inferencia prefieren esta forma.

bf16/f32 · TF/s · limitado por el fusible

1filas
1con cambio
2.00×mayor ganancia

Cómo se midió este modo

Register-resident mma.m16n16k16 issue rate, 8 independent accumulator chains per warp, best of three timed runs

Distancia al pico de especificación

  • GeForce RTX 4090: 330.3 TFLOP/s medidos frente a un pico de especificación de 330.3 TFLOP/s — 100.0% de él.

330.3 TFLOP/s (Ada whitepaper, RTX 4090, 128 SMs, 2.52 GHz, FP16 dense) = 1024 FLOP/cycle/SM; measured BF16/FP32 is 189.6–189.7 TF/s vs 189.8–189.9 for FP16, i.e. the same rate (docs/ada-2705-report.md)

Todas las tarjetas medidas en este modo

ModoOriginalDesbloqueadoGananciaTarjeta
bf16/f32165.50 TFLOP/s330.30 TFLOP/s2.00×GeForce RTX 4090 · 128 SMs

Misma tarjeta, mismo driver, mismo binario. El desbloqueo es la única variable.

Cobertura

En la tabla solo aparecen tarjetas con medición en la misma tarjeta. Una tarjeta ausente no se ha medido en esta ruta, lo que no equivale a un fallo.

Otros modos medidos