CUTLASS 経由の FP8 E4M3

発行レートのループではなく実際の GEMM カーネルです。実測 1.0029× は、FP8 が制限されていなかった最も明確な証拠です。

e4m3/f32 · GFLOP/s · 制限なし

1行
0変化あり
1.00×最大ゲイン

このモードの測定方法

CUTLASS 4.8.1 profiler, one cutlass_tensorop_s16832gemm_e4m3_128x128_64x3_tn_align16 kernel, 4096³, 10 warmups, 20 profiling iterations, device reference required

仕様ピークとの距離

  • GeForce RTX 4070 Ti SUPER:実測 59495 GFLOP/s、仕様ピーク 176400 GFLOP/s に対して 33.7% です。

330.3 TFLOP/s (Ada whitepaper, RTX 4090, 128 SMs, 2.52 GHz, FP8 dense) × 66/128 SMs × 2.61/2.52 GHz = ~176.4 TFLOP/s

このモードで実測された全カード

モード純正アンロック後ゲインカード
e4m3/f3259325.80 GFLOP/s59495.00 GFLOP/s1.00×GeForce RTX 4070 Ti SUPER · 66 SMs

同一カード、同一ドライバー、同一バイナリ。唯一の変数はアンロックの有無です。

対象範囲

表には同一カードでの実測があるものだけを載せています。載っていないカードは未測定であり、失敗したという意味ではありません。

実測済みの他のモード