FP8 E4M3 via CUTLASS

Um kernel GEMM real, não um laço de taxa de emissão. Mediu 1,0029×: a evidência mais clara de que o FP8 nunca foi limitado.

e4m3/f32 · GFLOP/s · nunca limitado

1linhas
0com mudança
1.00×maior ganho

Como este modo foi medido

CUTLASS 4.8.1 profiler, one cutlass_tensorop_s16832gemm_e4m3_128x128_64x3_tn_align16 kernel, 4096³, 10 warmups, 20 profiling iterations, device reference required

Distância ao pico de especificação

  • GeForce RTX 4070 Ti SUPER: 59495 GFLOP/s medidos contra um pico de especificação de 176400 GFLOP/s — 33.7% dele.

330.3 TFLOP/s (Ada whitepaper, RTX 4090, 128 SMs, 2.52 GHz, FP8 dense) × 66/128 SMs × 2.61/2.52 GHz = ~176.4 TFLOP/s

Todas as placas medidas neste modo

ModoOriginalDesbloqueadoGanhoPlaca
e4m3/f3259325.80 GFLOP/s59495.00 GFLOP/s1.00×GeForce RTX 4070 Ti SUPER · 66 SMs

Mesma placa, mesmo driver, mesmo binário. O desbloqueio é a única variável.

Cobertura

A tabela lista apenas placas com medição na mesma placa. Uma placa ausente não foi medida nesta rota, o que não significa falha.

Outros modos medidos