FP16 con acumulador FP32

La forma que usan casi todos los kernels de inferencia. Es esta ruta la que el fusible SM speed-select limita en Ada, por eso el desbloqueo la duplica.

f16/f32 · TF/s · limitado por el fusible

2filas
2con cambio
2.00×mayor ganancia

Cómo se midió este modo

Register-resident mma.m16n16k16 issue rate, 8 independent accumulator chains per warp, best of three timed runs

Distancia al pico de especificación

  • GeForce RTX 4090: 330.8 TFLOP/s medidos frente a un pico de especificación de 330.3 TFLOP/s — 100.2% de él.
  • GeForce RTX 4070 Ti SUPER: 188.97 TFLOP/s medidos frente a un pico de especificación de 190.6 TFLOP/s — 99.1% de él.

330.3 TFLOP/s (Ada whitepaper, RTX 4090, 128 SMs, 2.52 GHz, FP16 dense) = 1024 FLOP/cycle/SM

1024 FLOP/cycle/SM (330.3 TFLOP/s ÷ 128 SMs ÷ 2.52 GHz) × 66 SMs × 2.82 GHz = 190.6 TFLOP/s

Todas las tarjetas medidas en este modo

ModoOriginalDesbloqueadoGananciaTarjeta
f16/f32165.60 TFLOP/s330.80 TFLOP/s2.00×GeForce RTX 4090 · 128 SMs
f16/f3294.96 TFLOP/s188.97 TFLOP/s1.99×GeForce RTX 4070 Ti SUPER · 66 SMs

Misma tarjeta, mismo driver, mismo binario. El desbloqueo es la única variable.

Cobertura

En la tabla solo aparecen tarjetas con medición en la misma tarjeta. Una tarjeta ausente no se ha medido en esta ruta, lo que no equivale a un fallo.

Otros modos medidos