FP16/FP32 como GEMM do cuBLAS

Uma medição diferente das linhas de taxa de emissão: um GEMM real do cuBLAS em Turing com quatro tamanhos M.N.K. Seu 1,36–1,64× não deve ser promediado com os valores de Ada.

f16/f32 · TFLOP/s · limitado pelo fusível

4linhas
4com mudança
1.64×maior ganho

Como este modo foi medido

cuBLAS GEMM, M.N.K 1024/2048/4096/8192, as tabulated in the nlzy/turing-unlock README

Distância ao pico de especificação

  • GeForce RTX 2080 Ti: 68.3 TFLOP/s medidos contra um pico de especificação de 56.9 TFLOP/s — 120.0% dele.
  • GeForce RTX 2080 Ti: 91.4 TFLOP/s medidos contra um pico de especificação de 56.9 TFLOP/s — 160.6% dele.
  • GeForce RTX 2080 Ti: 81.7 TFLOP/s medidos contra um pico de especificação de 56.9 TFLOP/s — 143.6% dele.
  • GeForce RTX 2080 Ti: 77.9 TFLOP/s medidos contra um pico de especificação de 56.9 TFLOP/s — 136.9% dele.

68 SMs × 512 FLOP/cycle/SM × 1.635 GHz = 56.92 TFLOP/s (Turing FP16→FP32 tensor rate)

Todas as placas medidas neste modo

ModoOriginalDesbloqueadoGanhoPlaca
f16/f3250.30 TFLOP/s68.30 TFLOP/s1.36×GeForce RTX 2080 Ti · 68 SMs
f16/f3255.70 TFLOP/s91.40 TFLOP/s1.64×GeForce RTX 2080 Ti · 68 SMs
f16/f3253.70 TFLOP/s81.70 TFLOP/s1.52×GeForce RTX 2080 Ti · 68 SMs
f16/f3252.80 TFLOP/s77.90 TFLOP/s1.48×GeForce RTX 2080 Ti · 68 SMs

Mesma placa, mesmo driver, mesmo binário. O desbloqueio é a única variável.

Cobertura

A tabela lista apenas placas com medição na mesma placa. Uma placa ausente não foi medida nesta rota, o que não significa falha.

Outros modos medidos