FP16 com acumulador FP32

A forma usada pela maioria dos kernels de inferência. É esta rota que o fusível SM speed-select limita em Ada, por isso o desbloqueio a dobra.

f16/f32 · TF/s · limitado pelo fusível

2linhas
2com mudança
2.00×maior ganho

Como este modo foi medido

Register-resident mma.m16n16k16 issue rate, 8 independent accumulator chains per warp, best of three timed runs

Distância ao pico de especificação

  • GeForce RTX 4090: 330.8 TFLOP/s medidos contra um pico de especificação de 330.3 TFLOP/s — 100.2% dele.
  • GeForce RTX 4070 Ti SUPER: 188.97 TFLOP/s medidos contra um pico de especificação de 190.6 TFLOP/s — 99.1% dele.

330.3 TFLOP/s (Ada whitepaper, RTX 4090, 128 SMs, 2.52 GHz, FP16 dense) = 1024 FLOP/cycle/SM

1024 FLOP/cycle/SM (330.3 TFLOP/s ÷ 128 SMs ÷ 2.52 GHz) × 66 SMs × 2.82 GHz = 190.6 TFLOP/s

Todas as placas medidas neste modo

ModoOriginalDesbloqueadoGanhoPlaca
f16/f32165.60 TFLOP/s330.80 TFLOP/s2.00×GeForce RTX 4090 · 128 SMs
f16/f3294.96 TFLOP/s188.97 TFLOP/s1.99×GeForce RTX 4070 Ti SUPER · 66 SMs

Mesma placa, mesmo driver, mesmo binário. O desbloqueio é a única variável.

Cobertura

A tabela lista apenas placas com medição na mesma placa. Uma placa ausente não foi medida nesta rota, o que não significa falha.

Outros modos medidos