トークン/ワード要素
トークンは、モデル処理情報の基本単位です。テキスト モデルでは、テキストは通常、ワード セグメンタによってワード、サブワード、文字、またはバイト フラグメントに分割されます。
記事を読む ↗トークン WIKI / 業界知識ベース
単語要素の理解は概念から始まります。
には 52 の入門エントリがあり、単語単位、海外へのコンピューティング能力、海外への単語単位から始まり、モデル、推論、API 請求、グローバル配信をカバーしています。
52 エントリ
トークナイザー / トークナイザー
トークナイザーは、元のテキストをモデルで処理できるトークン シーケンスに変換し、出力トークンを読み取り可能なコンテンツに復元します。
記事を読む ↗入力トークン
入力トークンは、モデル リクエストでモデルによって読み取られる情報の量であり、これには通常、ユーザーの質問、システム プロンプト、履歴の会話、ツールなどのコンテキストが含まれます。
記事を読む ↗出力トークン
出力トークンは、モデルによって生成された結果の使用法です。さまざまなサービスでは、推論中に発生した特定の使用状況がリストされる場合もあります。
記事を読む ↗トークンコストの計算
トークン コストの計算は、入力、出力、およびその他の請求可能な項目を同じ通貨と測定単位で集計するプロセスです。
記事を読む ↗コンテキスト キャッシュ
コンテキスト キャッシュは、特定の条件が満たされた場合に処理されたコンテキストを再利用して、計算の繰り返しを減らすメカニズムです。
記事を読む ↗の計算能力
コンピューティング能力は、コンピューティング タスクを実行するコンピューティング システムの能力を表します。 AI シナリオでは、タスク、精度、ハードウェアおよびソフトウェア スタックの理解を組み合わせる必要があります。
記事を読む ↗GPU / グラフィックプロセッサ
GPU は、大規模な並列コンピューティングに適したプロセッサであり、ディープラーニングのトレーニング、推論、科学技術コンピューティングによく使用されます。
記事を読む ↗ビデオメモリ/VRAM
ビデオ メモリは、モデルの重み、中間状態、その他の計算データを保存するために GPU によって使用される専用メモリです。
記事を読む ↗FLOPS / 浮動小数点演算能力
FLOPS は 1 秒あたりの浮動小数点演算の数を表し、特定の精度および条件下でのコンピューティング パフォーマンスを記述するためによく使用されます。
記事を読む ↗GPU インテリジェント コンピューティング クラスター
GPU インテリジェント コンピューティング クラスターは、コンピューティング ノード、相互接続ネットワーク、ストレージ、およびスケジューリング コンポーネントで構成され、大規模な AI ワークロードを実行するために使用されます。
記事を読む ↗帯域幅と相互接続
帯域幅は、単位時間あたりに送信できるデータ量を表します。モデル サービスには、ビデオ メモリ、デバイスの相互接続、ネットワークなど、さまざまなレベルの帯域幅が関係します。
記事を読む ↗LLM/大規模言語モデル
大規模言語モデルは、大規模なトレーニングを通じて言語のパターンを学習し、テキストの生成、理解、変換などのタスクに使用されます。
記事を読む ↗推論/推論
推論は、トレーニングされたモデルを使用して新しい入力を計算し、出力を生成するプロセスであり、モデルのパラメーターを更新するトレーニングとは異なります。
記事を読む ↗推論モデル / 推論モデル
推論モデルは、複雑な問題の段階的な処理と推論に焦点を当てており、数学、コーディング、および複数制約タスクで一般的に使用されます。
記事を読む ↗マルチモーダルモデル
マルチモーダル モデルは、テキスト、画像、音声、ビデオなどの複数形式の情報を処理でき、具体的なサポート範囲はモデルによって異なります。
記事を読む ↗コンテキスト ウィンドウ
コンテキスト ウィンドウは、モデルが 1 回の処理時間に対応できるトークンの範囲であり、通常は入力バジェットと出力バジェットが関係します。
記事を読む ↗プロンプト/プロンプトワード
プロンプト ワードは、タスク、コンテキスト、出力要件、制約を説明するために使用される入力コンテンツです。
記事を読む ↗スループット / スループット
スループットは、一定期間内に処理されたリクエストまたはトークンの数です。統計的な対象とテスト条件について説明する必要があります。
記事を読む ↗推論遅延
推論レイテンシは、リクエストの開始から出力の生成または完了までの経過時間を表します。キューイング、最初の単語、および合計経過時間を区別する必要があります。
記事を読む ↗TTFT / 最初のトークン時間
TTFT は、リクエストの開始から最初の出力トークンの受信までの時間を指し、ストリーミング インタラクションの待機エクスペリエンスを測定するためによく使用されます。
記事を読む ↗KV Cache
KV キャッシュは、アテンション メカニズムの計算で以前のトークンのキーと値をキャッシュし、自己回帰生成での繰り返し計算を削減します。
記事を読む ↗バッチ処理 / バッチ処理
バッチ処理は、複数のコンピューティング タスクを組み合わせてハードウェアの使用率を向上させます。サービス システムでは、連続バッチ処理を使用することもできます。
記事を読む ↗モデルの定量化
モデルの量子化では、リソースのオーバーヘッドを削減するために、モデル データまたは計算の一部を表すために低精度の数値が使用されます。
記事を読む ↗ストリーミング出力 / ストリーミング
ストリーミング出力を使用すると、アプリケーションは完全な結果が生成される前にコンテンツを段階的に受信でき、会話やリアルタイムの対話によく使用されます。
記事を読む ↗トークンは海へ / Ci Yuan は海へ
海外向けトークンは、モデル推論などのインテリジェントな機能を API またはプラットフォームを通じて海外のアプリケーションに提供するデジタル サービス モデルです。
記事を読む ↗計算力の海外展開
海外進出とは、コンピューティング リソース、クラウド サービス、モデル、またはアプリケーション機能に関する製品やサービスを海外市場に提供するビジネスの方向性です。
記事を読む ↗API/アプリケーション プログラミング インターフェイス
API は、アプリケーション間でリクエストとレスポンスがどのように交換されるかを定義します。モデル API を使用すると、開発者はリモート モデル機能を呼び出すことができます。
記事を読む ↗電流制限 / レート制限
電流制限は、一定期間内のリクエスト数、トークン使用量、または同時実行性を制御するメカニズムです。リソースとサービスの安定性を管理するためによく使用されます。
記事を読む ↗RAG / 検索拡張の生成
RAG は、生成前に外部データから関連するコンテンツを取得し、そのデータと質問をモデルに渡してコンテキストを補足します。
記事を読む ↗埋め込み/ベクトル表現
埋め込みは、テキストなどのオブジェクトを数値ベクトルにマップして類似性を表現し、検索やクラスタリングなどのタスクをサポートします。
記事を読む ↗ベクトル データベース
ベクトル データベースは、ベクトルの保存と取得をサポートしており、セマンティック検索やナレッジ ベース アプリケーションのメタデータ フィルタリングでよく使用されます。
記事を読む ↗SEO / 検索エンジンの最適化
SEO は、検索エンジンが Web サイトのコンテンツを発見、理解、表示するのに役立つ一連のコンテンツと技術的実践です。
記事を読む ↗GEO / 生成検索の最適化
GEO は一般に、生成的検索におけるコンテンツの発見しやすさ、わかりやすさ、引用の可能性を向上させる実践を指します。
記事を読む ↗robots.txt
robots.txt は、サイトのルート パスに配置されるクロール ルール ファイルで、ルールに準拠するクローラーへのアクセス設定を表現するために使用されます。
記事を読む ↗サイトマップ / サイトマップ
サイトマップは、検索したい正規 URL をリストすることで、検索エンジンがパブリック コンテンツの構造を理解するのに役立ちます。
記事を読む ↗構造化データ / JSON-LD
構造化データは、Web サイト、記事、用語、ブレッドクラムなどのページ内のエンティティと関係を機械可読形式で表現します。
記事を読む ↗AI検索クローラー
AI 検索クローラーは、公開 Web ページをクロールして、検索やユーザーの取得をサポートします。組織によっては、検索、ユーザー アクセス、トレーニングの目的を区別する場合があります。
記事を読む ↗コーデックス/プログラミング エージェント
Codex は、制御された環境でコードを理解し、ファイルを変更し、チェックを実行し、ソフトウェア タスクを支援できる OpenAI のプログラミング エージェント製品です。
記事を読む ↗蒸留 / 知識の蒸留
モデルの蒸留は、教師モデルの出力、確率分布、または中間情報を使用して生徒モデルをトレーニングし、ターゲット タスクに関する教師の能力の一部を学習できるようにします。
記事を読む ↗スペル / プロンプト通称
AI 界における「マントラ」とは、ユーザーがモデルに渡すタスクの説明、コンテキスト、制約、出力要件を指す、プロンプトを表す派手な言い方であることがよくあります。
記事を読む ↗AI ネイティブ エディターおよび IDE
AI ネイティブ エディターと IDE は、モデル ダイアログ、コード コンテキスト、完了、変更、ツールの実行を開発ワークフローに統合し、AI が複数の開発ステップに参加できるようにします。
記事を読む ↗Cursor
Cursor は、AI 支援開発を中心に構築されたコード編集およびエージェント ツールで、コード コンテキストの理解、自然言語対話、コード変更などのワークフローを提供します。
記事を読む ↗Windsurf / Cascade
Windsurf は AI 開発ツール エコシステムの製品名で、Cascade は関連するエージェント ワークフローです。現在、関連する公式文書は Devin Desktop 文書に誘導されています。
記事を読む ↗TRAE
TRAE は、AI 支援によるソフトウェア開発エクスペリエンスを提供するツールで、IDE や SOLO などの製品形式をカバーし、開発者が要件に沿ったコードを理解、作成、検証できるようにします。
記事を読む ↗Cline
Cline は、モデルと開発ツールを接続できるプログラミング エージェント エコシステムです。エディターの統合、ターミナル、その他の入り口を提供し、ファイルの読み取り、コードの変更、ツール タスクの実行が可能です。
記事を読む ↗OpenClaw
OpenClaw は、独自のインフラストラクチャ上で実行される AI アシスタントとエージェントのシステムであり、モデル、メッセージング チャネル、タスクを処理するツールを接続します。
記事を読む ↗エージェント/知的体
AI エージェントは、目標に沿ったステップを選択し、ツールを呼び出し、フィードバックを使用してタスクを進めるシステムです。通常、モデル、ツール、状態、実行ルールで構成されます。
記事を読む ↗Manus
Manus は、複数ステップのタスクに対応する AI エージェント製品です。エージェント タスクは、製品インターフェイスまたは関連 API を通じて作成および管理できます。
記事を読む ↗ミューズ/メタ パーソナル インテリジェンス
Muse は、Meta が提供するパーソナル AI エージェント製品です。実際のタスクの実行を指向しており、Muse Spark などの関連モデル機能を使用します。
記事を読む ↗ミューズスパーク/メタモデルシリーズ
Muse Spark は Meta のモデル シリーズで、Meta AI、Muse、その他の製品および関連開発者ポータルに推論機能とマルチモーダル機能を提供します。具体的な機能はモデルによって異なります。
記事を読む ↗バイブコーディング/雰囲気プログラミング
バイブ コーディングとは、自然言語と AI ツールを使用して、通常は目標を記述し、結果を観察し、反復的に前進し続けることによってソフトウェアを迅速に形成する開発手法を指します。
記事を読む ↗