GPUUnlock

BF16 com acumulador FP32

Mesmo limite do FP16/FP32, com o expoente mais amplo do BF16. Treino e muitas pilhas de inferência preferem esta forma.

bf16/f32 · TF/s · limitado pelo fusível

1linhas
1com mudança
2.00×maior ganho

Como este modo foi medido

Register-resident mma.m16n16k16 issue rate, 8 independent accumulator chains per warp, best of three timed runs

Distância ao pico de especificação

  • GeForce RTX 4090: 330.3 TFLOP/s medidos contra um pico de especificação de 330.3 TFLOP/s — 100.0% dele.

330.3 TFLOP/s (Ada whitepaper, RTX 4090, 128 SMs, 2.52 GHz, FP16 dense) = 1024 FLOP/cycle/SM; measured BF16/FP32 is 189.6–189.7 TF/s vs 189.8–189.9 for FP16, i.e. the same rate (docs/ada-2705-report.md)

Todas as placas medidas neste modo

ModoOriginalDesbloqueadoGanhoPlaca
bf16/f32165.50 TFLOP/s330.30 TFLOP/s2.00×GeForce RTX 4090 · 128 SMs

Mesma placa, mesmo driver, mesmo binário. O desbloqueio é a única variável.

Cobertura

A tabela lista apenas placas com medição na mesma placa. Uma placa ausente não foi medida nesta rota, o que não significa falha.

Outros modos medidos