Benchmarks : origine contre débloqué

Toutes les mesures avant/après sur carte identique publiées par le fork GPU Unlock Ada, y compris les modes tensoriels inchangés et la paire FP8 CUTLASS à 1,0029×.

Comment elles ont été prises

Les lignes RTX 4090 proviennent d'une boucle de taux d'émission MMA résidant en registres, exécutée sur 20 000 itérations et trois répétitions par mode, avec le meilleur des trois rapporté. Les lignes RTX 4070 Ti SUPER proviennent du tensor-modes-comparison.json du fork : 66 SM, pilote 580.178.04, limite 240 W, 20 000 itérations et trois répétitions, avec des entrées tout-à-un sur huit chaînes indépendantes. La paire FP8 est une exécution séparée du profileur CUTLASS 4.8.1 sur un noyau sm_89.

GeForce RTX 4090

AD102 · 128 SM · pilote unrecorded in the evidence file

Mode	Origine	Débloqué	Gain
`f16/f16`	325.70 TF/s	331.60 TF/s	1.02×
`f16/f32`	165.60 TF/s	330.80 TF/s	2.00×
`bf16/f32`	165.50 TF/s	330.30 TF/s	2.00×
`s8/s32`	661.60 TF/s	659.50 TF/s	1.00×
`dp4a`	164.50 TF/s	164.10 TF/s	1.00×
`ffma`	79.10 TF/s	79.10 TF/s	1.00×

f16/f16: stock run includes one slow sample (306.3); best-of-three
s8/s32: already at full rate before the unlock
ffma: FP32 was never rate-limited

Fichiers sources de cette exécution

GeForce RTX 4070 Ti SUPER

AD103 · 66 SM · pilote 580.178.04

Mode	Origine	Débloqué	Gain
`f16/f32`	94.96 TFLOP/s	188.97 TFLOP/s	1.99×
`tf32`	47.49 TFLOP/s	94.51 TFLOP/s	1.99×
`u4/s32`	754.81 TOP/s	754.68 TOP/s	1.00×

u4/s32: integer path, unaffected

Fichiers sources de cette exécution

GeForce RTX 2080 Ti

TU102 · 68 SM · pilote 575.51.03

Mode	Origine	Débloqué	Gain
`f16/f32`	50.30 TFLOP/s	68.30 TFLOP/s	1.36×
`f16/f32`	55.70 TFLOP/s	91.40 TFLOP/s	1.64×
`f16/f32`	53.70 TFLOP/s	81.70 TFLOP/s	1.52×
`f16/f32`	52.80 TFLOP/s	77.90 TFLOP/s	1.48×

f16/f32: M.N.K 1024: 88.4% to 120.0% of the 56.9 TFLOP/s peak
f16/f32: M.N.K 2048: 97.9% to 160.6% of peak
f16/f32: M.N.K 4096: 94.4% to 143.6% of peak
f16/f32: M.N.K 8192: 92.8% to 136.9% of peak

Fichiers sources de cette exécution

La paire FP8 qui n'a pas bougé

Le fork a mesuré un GEMM 4096³ en entrée E4M3 FP8 appariée, accumulation FP32, sur la 4070 Ti SUPER avec le même binaire de profileur CUTLASS, un seul noyau, 10 échauffements et 20 itérations de profilage, avec vérification obligatoire contre la référence de l'appareil. Les deux exécutions ont passé leurs contrôles de référence.

Exécution	ms	GFLOP/s
origine	2.31724	59325.8
débloqué	2.31066	59495.0

RTX 4070 Ti SUPER · cutlass_tensorop_s16832gemm_e4m3_128x128_64x3_tn_align16 · 1.0029×

Comment lire un ratio de 1,00×

Une ligne à 1,00× n'est pas un déblocage raté. Elle indique que ce chemin précis n'a jamais été bridé, donc la dérogation n'avait rien à restaurer. Si vous mesurez votre propre carte et obtenez 1,00× sur le mode qui vous intéresse, le déblocage a peut-être bien fonctionné et n'aide simplement pas cette charge de travail.