INT8 com acumulador INT32

Inferência quantizada. Nunca limitado pelo fusível, então marca 1,00× e esse é o resultado correto.

s8/s32 · TF/s · nunca limitado

1linhas
0com mudança
1.00×maior ganho

Como este modo foi medido

Register-resident mma.m16n16k16 issue rate, 8 independent accumulator chains per warp, best of three timed runs

Todas as placas medidas neste modo

ModoOriginalDesbloqueadoGanhoPlaca
s8/s32661.60 TOP/s659.50 TOP/s1.00×GeForce RTX 4090 · 128 SMs

Mesma placa, mesmo driver, mesmo binário. O desbloqueio é a única variável.

Cobertura

A tabela lista apenas placas com medição na mesma placa. Uma placa ausente não foi medida nesta rota, o que não significa falha.

Outros modos medidos