計算能力の基礎 / トークン WIKI
FLOPS / 浮動小数点演算能力
一文でわかる
FLOPS は 1 秒あたりの浮動小数点演算の数を表し、特定の精度および条件下でのコンピューティング パフォーマンスを記述するためによく使用されます。
がビジネスに関連するのはなぜですか?
精度、疎な条件、統計的口径が異なる数値を水平方向に直接比較することはできません。
を適用する場合の判断方法は？
verifies FP32, BF16, FP16 or lower precision calibers and differentiates between peak and actual mission performance. Can
よくある質問
PFLOPS and Token/s be directly converted?
No, the model structure, sequence length, hardware and implementation will all affect the conversion relationship.
