計算能力の基礎 / トークン WIKI
の計算能力
一文でわかる
コンピューティング能力は、コンピューティング タスクを実行するコンピューティング システムの能力を表します。 AI シナリオでは、タスク、精度、ハードウェアおよびソフトウェア スタックの理解を組み合わせる必要があります。
がビジネスに関連するのはなぜですか?
の理論上のピーク値と実際のアプリケーションのスループットには差があります。 1 つのコンピューティング能力の数値だけを基にしてサービスを選択することはできません。
を適用する場合の判断方法は？
は、メモリ、ネットワーク、電源、スケジューリング条件を調べながら、同じモデル、精度、入出力スケールの下でパフォーマンスを比較します。
よくある質問
The higher the computing power, the faster the reasoning?
Not necessarily, memory, communication, scheduling and task form may all become bottlenecks.
