FP16/FP32 como GEMM de cuBLAS

Una medición distinta de las filas de tasa de emisión: un GEMM real de cuBLAS en Turing con cuatro tamaños M.N.K. Su 1,36–1,64× no debe promediarse con los valores de Ada.

f16/f32 · TFLOP/s · limitado por el fusible

4filas
4con cambio
1.64×mayor ganancia

Cómo se midió este modo

cuBLAS GEMM, M.N.K 1024/2048/4096/8192, as tabulated in the nlzy/turing-unlock README

Distancia al pico de especificación

  • GeForce RTX 2080 Ti: 68.3 TFLOP/s medidos frente a un pico de especificación de 56.9 TFLOP/s — 120.0% de él.
  • GeForce RTX 2080 Ti: 91.4 TFLOP/s medidos frente a un pico de especificación de 56.9 TFLOP/s — 160.6% de él.
  • GeForce RTX 2080 Ti: 81.7 TFLOP/s medidos frente a un pico de especificación de 56.9 TFLOP/s — 143.6% de él.
  • GeForce RTX 2080 Ti: 77.9 TFLOP/s medidos frente a un pico de especificación de 56.9 TFLOP/s — 136.9% de él.

68 SMs × 512 FLOP/cycle/SM × 1.635 GHz = 56.92 TFLOP/s (Turing FP16→FP32 tensor rate)

Todas las tarjetas medidas en este modo

ModoOriginalDesbloqueadoGananciaTarjeta
f16/f3250.30 TFLOP/s68.30 TFLOP/s1.36×GeForce RTX 2080 Ti · 68 SMs
f16/f3255.70 TFLOP/s91.40 TFLOP/s1.64×GeForce RTX 2080 Ti · 68 SMs
f16/f3253.70 TFLOP/s81.70 TFLOP/s1.52×GeForce RTX 2080 Ti · 68 SMs
f16/f3252.80 TFLOP/s77.90 TFLOP/s1.48×GeForce RTX 2080 Ti · 68 SMs

Misma tarjeta, mismo driver, mismo binario. El desbloqueo es la única variable.

Cobertura

En la tabla solo aparecen tarjetas con medición en la misma tarjeta. Una tarjeta ausente no se ha medido en esta ruta, lo que no equivale a un fallo.

Otros modos medidos