Token/Wortelement
Token ist die Grundeinheit für Modellverarbeitungsinformationen; In Textmodellen wird Text normalerweise von einem Wortsegmentierer in Wörter, Teilwörter, Zeichen oder Bytefragmente aufgeteilt. Was ist
Artikel lesen ↗TOKEN WIKI / Branchenwissensdatenbank
Das Verstehen von Wortelementen beginnt mit einem Konzept.
verfügt über 52 Einführungseinträge, beginnend mit Worteinheiten, Rechenleistung im Ausland und Worteinheiten im Ausland, die Modelle, Argumentation, API-Abrechnung und globale Bereitstellung abdecken.
Alle BegriffeWord-Elemente und AbrechnungRechenleistungsbasis-Modell und Schlussfolgerung-InferenzleistungÜbersee-Export und ArchitekturSuche und EntdeckungKI-Entwicklungstoolsintelligenter Körper und Anwendung
52 Einträge
Tokenizer / Tokenizer Der Tokenizer
wandelt den Originaltext in eine Token-Sequenz um, die vom Modell verarbeitet werden kann, und stellt den Ausgabe-Token in lesbaren Inhalt wieder her.
Artikel lesen ↗Eingabe-Token
Input Token ist die Menge an Informationen, die das Modell in einer Modellanforderung liest, die normalerweise Kontext wie Benutzerfragen, Systemeingabeaufforderungen, historische Konversationen und Tools umfasst.
Artikel lesen ↗-Ausgabetoken Das
-Ausgabetoken ist die vom Modell generierte Ergebnisverwendung. Verschiedene Dienste können auch spezifische Nutzungen auflisten, die während der Inferenz anfallen.
Artikel lesen ↗Token-Kostenberechnung Bei der
-Token-Kostenberechnung handelt es sich um den Prozess der Zusammenfassung von Input, Output und anderen abrechenbaren Posten in derselben Währung und Maßeinheit.
Artikel lesen ↗Kontext-Cache
Kontext-Caching ist ein Mechanismus, der verarbeiteten Kontext wiederverwendet, wenn bestimmte Bedingungen erfüllt sind, um wiederholte Berechnungen zu reduzieren.
Artikel lesen ↗Rechenleistung
Rechenleistung beschreibt die Fähigkeit eines Computersystems, Rechenaufgaben auszuführen. In KI-Szenarien ist es notwendig, Aufgaben-, Genauigkeits-, Hardware- und Software-Stack-Verständnis zu kombinieren. Was ist die Rechenleistung des
Artikel lesen ↗GPU/Grafikprozessor Die
-GPU ist ein Prozessor, der für umfangreiches paralleles Rechnen geeignet ist und häufig für Deep-Learning-Training, Inferenz und wissenschaftliches Rechnen verwendet wird.
Artikel lesen ↗Videospeicher/VRAM Der
-Videospeicher ist ein dedizierter Speicher, der von der GPU zum Speichern von Modellgewichten, Zwischenzuständen und anderen Berechnungsdaten verwendet wird.
Artikel lesen ↗FLOPS / Gleitkomma-Rechenleistung
FLOPS stellt die Anzahl der Gleitkommaoperationen pro Sekunde dar und wird häufig zur Beschreibung der Rechenleistung unter bestimmten Genauigkeiten und Bedingungen verwendet.
Artikel lesen ↗GPU-Intelligent-Computing-Cluster Der GPU-Intelligent-Computing-Cluster
besteht aus Rechenknoten, Verbindungsnetzwerken, Speicher- und Planungskomponenten und wird zur Übertragung umfangreicher KI-Arbeitslasten verwendet.
Artikel lesen ↗Bandbreite und Verbindung Die
-Bandbreite stellt die Datenmenge dar, die pro Zeiteinheit übertragen werden kann; Modelldienste umfassen Bandbreite auf verschiedenen Ebenen wie Videospeicher, Geräteverbindung und Netzwerk.
Artikel lesen ↗LLM/Großes Sprachmodell Das große Sprachmodell
lernt durch umfangreiches Training Muster in der Sprache und wird für Aufgaben wie das Generieren, Verstehen und Transformieren von Text verwendet.
Artikel lesen ↗Argumentation / Schlussfolgerung
Inferenz ist der Prozess, bei dem ein trainiertes Modell verwendet wird, um neue Eingaben zu berechnen und Ausgaben zu generieren. Dies unterscheidet sich vom Training, bei dem Modellparameter aktualisiert werden.
Artikel lesen ↗Argumentationsmodell / Argumentationsmodell Das Inferenzmodell
konzentriert sich auf die schrittweise Verarbeitung und Inferenz komplexer Probleme und wird häufig in Mathematik, Codierung und Aufgaben mit mehreren Einschränkungen verwendet.
Artikel lesen ↗Das multimodale Modell
kann mehrere Informationsformen wie Text, Bilder, Audio oder Video verarbeiten, und der spezifische Unterstützungsbereich variiert je nach Modell.
Artikel lesen ↗Das
-Kontextfenster ist der Bereich von Tokens, den das Modell zu einem Verarbeitungszeitpunkt verarbeiten kann, normalerweise unter Einbeziehung von Eingabe- und Ausgabebudgets.
Artikel lesen ↗Aufforderung / Aufforderungswort
Aufforderungswörter sind Eingabeinhalte, die zur Beschreibung von Aufgaben, Kontext, Ausgabeanforderungen und Einschränkungen verwendet werden.
Artikel lesen ↗Durchsatz / Durchsatz Der
-Durchsatz ist die Anzahl der Anfragen oder Token, die innerhalb eines bestimmten Zeitraums verarbeitet werden. Statistische Objekte und Testbedingungen müssen erläutert werden.
Artikel lesen ↗Inferenzverzögerung
-Inferenzlatenz beschreibt die Zeit, die von der Anforderungsinitiierung bis zur Ausgabegenerierung oder zum Abschluss vergeht. Es sollte zwischen Warteschlange, erstem Wort und insgesamt verstrichener Zeit unterschieden werden.
Artikel lesen ↗TTFT / Erster Token-Zeitpunkt
TTFT bezieht sich auf die Zeit vom Beginn der Anforderung bis zum Empfang des ersten Ausgabetokens und wird häufig zur Messung der Warteerfahrung von Streaming-Interaktionen verwendet.
Artikel lesen ↗KV Cache
KV-Cache speichert die Schlüssel und Werte früherer Token bei der Berechnung des Aufmerksamkeitsmechanismus zwischen, um wiederholte Berechnungen bei der autoregressiven Generierung zu reduzieren.
Artikel lesen ↗Stapelverarbeitung/Batching Die Stapelverarbeitung
kombiniert mehrere Rechenaufgaben, um die Hardwareauslastung zu verbessern. Das Servicesystem kann auch eine kontinuierliche Stapelverarbeitung verwenden.
Artikel lesen ↗-Modellquantifizierung Die
-Modellquantisierung verwendet numerische Werte mit geringerer Genauigkeit, um einen Teil der Modelldaten oder Berechnungen darzustellen, um den Ressourcenaufwand zu reduzieren.
Artikel lesen ↗Streaming-Ausgabe / Streaming Mit der
-Streaming-Ausgabe können Anwendungen Inhalte inkrementell empfangen, bevor das vollständige Ergebnis generiert wird, was häufig für Gespräche und Echtzeitinteraktionen verwendet wird.
Artikel lesen ↗Token geht ins Meer / Ci Yuan geht ins Meer
Token Going Overseas ist ein digitales Servicemodell, das über APIs oder Plattformen intelligente Funktionen wie Modellschlussfolgerung für ausländische Anwendungen bereitstellt.
Artikel lesen ↗AI Compute Export
Der Schritt ins Ausland ist die Geschäftsrichtung, Produkte und Dienstleistungen für ausländische Märkte rund um Computerressourcen, Cloud-Dienste, Modelle oder Anwendungsfunktionen bereitzustellen.
Artikel lesen ↗API/Anwendungsprogrammierschnittstelle Die
-API definiert, wie Anfragen und Antworten zwischen Anwendungen ausgetauscht werden; Mit der Modell-API können Entwickler Remote-Modellfunktionen aufrufen.
Artikel lesen ↗Strombegrenzung/Ratenbegrenzung
Die Strombegrenzung ist ein Mechanismus zur Steuerung der Anzahl der Anfragen, der Token-Nutzung oder der Parallelität innerhalb eines Zeitraums. Es wird häufig zur Verwaltung von Ressourcen und Dienststabilität verwendet.
Artikel lesen ↗RAG / Sucherweiterungsgenerierung
RAG ruft vor der Generierung relevante Inhalte aus externen Daten ab und übergibt die Daten und Fragen dann an das Modell, um den Kontext zu ergänzen.
Artikel lesen ↗Einbettung / Vektordarstellung
Einbettung ordnet Objekte wie Text in numerische Vektoren zu, um Ähnlichkeit auszudrücken und Aufgaben wie Suche und Clustering zu unterstützen.
Artikel lesen ↗Vektordatenbank Die
-Vektordatenbank unterstützt das Speichern und Abrufen von Vektoren, die häufig mit Metadatenfilterung für semantische Such- und Wissensdatenbankanwendungen verwendet werden.
Artikel lesen ↗SEO / Suchmaschinenoptimierung
SEO ist eine Reihe von Inhalten und technischen Praktiken, die Suchmaschinen dabei helfen, Website-Inhalte zu entdecken, zu verstehen und zu präsentieren.
Artikel lesen ↗GEO / Generative Suchoptimierung
GEO bezieht sich im Allgemeinen auf die Praxis, die Auffindbarkeit, Verständlichkeit und Zitierwahrscheinlichkeit von Inhalten in der generativen Suche zu verbessern.
Artikel lesen ↗robots.txt
robots.txt ist eine Crawling-Regeldatei, die im Stammpfad der Site abgelegt wird und dazu dient, Crawlern, die den Regeln entsprechen, Zugriffspräferenzen auszudrücken.
Artikel lesen ↗Sitemap / Sitemap
Sitemaps helfen Suchmaschinen, die Struktur öffentlicher Inhalte zu verstehen, indem sie die kanonischen URLs auflisten, die entdeckt werden sollen.
Artikel lesen ↗strukturierte Daten / JSON-LD
Strukturierte Daten drücken Entitäten und Beziehungen auf Seiten wie Websites, Artikeln, Begriffen und Breadcrumbs in einem maschinenlesbaren Format aus. Semantisches Markup
Artikel lesen ↗KI-Suchcrawler Der KI-Suchcrawler
crawlt öffentliche Webseiten, um die Suche oder den Benutzerabruf zu unterstützen. Verschiedene Organisationen können zwischen Suche, Benutzerzugriff und Schulungszwecken unterscheiden.
Artikel lesen ↗Codex/Programmieragent
Codex ist das Programmieragentenprodukt von OpenAI, das Code verstehen, Dateien ändern, Prüfungen durchführen und Softwareaufgaben in einer kontrollierten Umgebung unterstützen kann.
Artikel lesen ↗Destillation / Wissensdestillation Die
-Modelldestillation nutzt die Ausgabe, Wahrscheinlichkeitsverteilung oder Zwischeninformationen des Lehrermodells, um das Schülermodell zu trainieren, damit es einen Teil der Fähigkeiten des Lehrers bei der Zielaufgabe erlernen kann. Destillation Modell
Artikel lesen ↗-Buchstabe / Prompt-Gebräuchlicher Name
Ein „Mantra“ ist in KI-Kreisen oft eine ausgefallene Art, eine Aufforderung auszudrücken, die sich auf die Aufgabenbeschreibung, den Kontext, die Einschränkungen und die Ausgabeanforderungen bezieht, die der Benutzer dem Modell übergibt.
Artikel lesen ↗Nativer KI-Editor und IDE Der native KI-Editor
und die IDE integrieren Modelldialog, Codekontext, Vervollständigung, Änderung und Werkzeugausführung in den Entwicklungsworkflow und ermöglichen der KI die Teilnahme an mehreren Entwicklungsschritten.
Artikel lesen ↗Cursor
Cursor ist ein Codebearbeitungs- und Agententool, das auf der KI-gestützten Entwicklung basiert und Arbeitsabläufe wie Codekontextverständnis, Interaktion in natürlicher Sprache und Codeänderung bereitstellt.
Artikel lesen ↗Windsurf / Cascade
Windsurf ist der Produktname im KI-Entwicklungstool-Ökosystem und Cascade ist der zugehörige Agenten-Workflow; Derzeit wurden die relevanten offiziellen Dokumente an Devin Desktop-Dokumente weitergeleitet.
Artikel lesen ↗TRAE
TRAE ist ein Tool, das KI-gestützte Softwareentwicklungserfahrung bietet, Produktformen wie IDE und SOLO abdeckt und Entwicklern hilft, Code entsprechend den Anforderungen zu verstehen, zu schreiben und zu überprüfen.
Artikel lesen ↗Cline
Cline ist ein Programmieragenten-Ökosystem, das Modelle und Entwicklungstools verbinden kann. Es bietet Editor-Integration, Terminals und andere Eingänge und kann Dateien lesen, Codes ändern und Tool-Aufgaben ausführen.
Artikel lesen ↗OpenClaw
OpenClaw ist ein System von KI-Assistenten und -Agenten, das auf einer eigenen Infrastruktur läuft und Modelle, Messaging-Kanäle und Tools zur Aufgabenabwicklung verbindet.
Artikel lesen ↗Agent / intelligenter Körper Der KI-Agent
ist ein System, das Schritte zur Umsetzung von Zielen auswählt, Tools aufruft und Feedback nutzt, um Aufgaben voranzutreiben. Es besteht normalerweise aus Modellen, Werkzeugen, Zuständen und Ausführungsregeln.
Artikel lesen ↗Manus
Manus ist ein KI-Agentenprodukt für mehrstufige Aufgaben. Agentenaufgaben können über die Produktschnittstelle oder zugehörige APIs erstellt und verwaltet werden.
Artikel lesen ↗Muse/Meta Persönliche Intelligenz
Muse ist ein persönliches KI-Agentenprodukt, das von Meta eingeführt wurde. Es orientiert sich an der realen Aufgabenausführung und nutzt verwandte Modellfunktionen wie Muse Spark.
Artikel lesen ↗Muse Spark / Meta-Modellreihe
Muse Spark ist die Modellreihe von Meta, die Argumentation und multimodale Funktionen für Meta AI, Muse und andere Produkte sowie zugehörige Entwicklerportale bietet. Die spezifischen Fähigkeiten hängen vom Modell ab.
Artikel lesen ↗Vibe Coding / Atmosphärenprogrammierung
Vibe Coding bezieht sich auf eine Entwicklungsmethode, die natürliche Sprache und KI-Tools nutzt, um schnell Software zu erstellen, in der Regel durch die Beschreibung von Zielen, die Beobachtung von Ergebnissen und die kontinuierliche iterative Weiterentwicklung.
Artikel lesen ↗