TOKEN WIKI / Base de conhecimento da indústriaA compreensão dos elementos da palavra começa com um conceito.
tem 52 entradas introdutórias, começando com unidades de palavras, poder de computação indo para o exterior e unidades de palavras indo para o exterior, cobrindo modelos, raciocínio, faturamento de API e entrega global.
Pesquisa
Elementos do Word e faturamento
Base de poder de computaçãoé a unidade básica para processamento de informações do modelo; em modelos de texto, o texto geralmente é dividido em palavras, subpalavras, caracteres ou fragmentos de bytes por um segmentador de palavras.
O que é o token
Ler artigo ↗Elementos do Word e faturamento
Base de poder de computaçãoconverte o texto original em uma sequência de token que pode ser processada pelo modelo e restaura o token de saída em conteúdo legível.
Segmentador de palavras
Ler artigo ↗Elementos do Word e faturamento
Base de poder de computaçãoé a quantidade de informações lidas pelo modelo em uma solicitação de modelo, que geralmente inclui contexto como perguntas do usuário, prompts do sistema, histórico de conversas e ferramentas.
Elemento de palavra de entrada
Ler artigo ↗Elementos do Word e faturamento
Base de poder de computaçãoé o uso do resultado gerado pelo modelo. Diferentes serviços também podem listar usos específicos ocorridos durante a inferência.
Elementos da palavra de saída
Ler artigo ↗Elementos do Word e faturamento
Base de poder de computaçãoé o processo de resumir entradas, saídas e outros itens faturáveis na mesma moeda e unidade de medida.
Preço do token
Ler artigo ↗Elementos do Word e faturamento
Base de poder de computaçãoO cache de contexto é um mecanismo que reutiliza o contexto processado quando condições específicas são atendidas para reduzir cálculos repetidos.
Cache de palavras de prompt
Ler artigo ↗Desempenho de inferênciaO poder de computação descreve a capacidade de um sistema de computação de executar tarefas de computação. Em cenários de IA, é necessário combinar tarefa, precisão, compreensão da pilha de hardware e software.
Qual é o poder de computação do
Ler artigo ↗Desempenho de inferênciaé um processador adequado para computação paralela em grande escala e é comumente usado para treinamento de aprendizagem profunda, inferência e computação científica.
Poder de computação da GPU
Ler artigo ↗Desempenho de inferênciaé uma memória dedicada usada pela GPU para armazenar pesos de modelo, estados intermediários e outros dados de cálculo.
Capacidade de memória de vídeo
Ler artigo ↗Desempenho de inferênciaFLOPS representa o número de operações de ponto flutuante por segundo, que é frequentemente usado para descrever o desempenho da computação sob condições e precisão específicas.
Poder de computação de ponto flutuante
Ler artigo ↗Desempenho de inferênciaé composto por nós de computação, redes de interconexão, componentes de armazenamento e agendamento e é usado para transportar cargas de trabalho de IA em grande escala.
Cluster de computação inteligente
Ler artigo ↗Desempenho de inferênciarepresenta a quantidade de dados que podem ser transmitidos por unidade de tempo; os serviços do modelo envolvem largura de banda em diferentes níveis, como memória de vídeo, interconexão de dispositivos e rede.
Largura de banda da rede
Ler artigo ↗e inferênciaaprende padrões de linguagem por meio de treinamento em larga escala e é usado para tarefas como geração, compreensão e transformação de texto.
Modelo de linguagem grande
Ler artigo ↗e inferênciaé o processo de utilização de um modelo treinado para calcular novas entradas e gerar saídas, o que é diferente do treinamento, que atualiza os parâmetros do modelo.
Inferência do modelo
Ler artigo ↗e inferênciaconcentra-se no processamento passo a passo e na inferência de problemas complexos e é comumente usado em matemática, codificação e tarefas com múltiplas restrições.
Modelo de pensamento
Ler artigo ↗e inferênciapode lidar com múltiplas formas de informação, como texto, imagens, áudio ou vídeo, e a faixa de suporte específica varia de acordo com o modelo.
Ler artigo ↗e inferênciaé o intervalo de Tokens que o modelo pode acomodar em um único tempo de processamento, geralmente envolvendo orçamentos de entrada e saída.
Comprimento do contexto
Ler artigo ↗e inferênciaPalavras de prompt são conteúdo de entrada usado para descrever tarefas, contexto, requisitos de saída e restrições.
Projeto de palavra de alerta
Ler artigo ↗inference performanceé o número de solicitações ou tokens processados em um determinado período de tempo. Os objetos estatísticos e as condições de teste precisam ser explicados.
Token
Ler artigo ↗inference performancedescreve o tempo decorrido desde o início da solicitação até a geração ou conclusão da saída. O enfileiramento, a primeira palavra e o tempo total decorrido devem ser diferenciados.
Velocidade de resposta da API
Ler artigo ↗inference performanceTTFT refere-se ao tempo desde o início da solicitação até o recebimento do primeiro token de saída e é frequentemente usado para medir a experiência de espera de interações de streaming.
Ler artigo ↗inference performanceKV Cache armazena em cache as chaves e valores de Tokens anteriores no cálculo do mecanismo de atenção para reduzir cálculos repetidos na geração autorregressiva.
Cache KV
Ler artigo ↗inference performancecombina múltiplas tarefas de computação para melhorar a utilização do hardware; o sistema de serviço também pode usar processamento em lote contínuo.
Processamento em lote contínuo
Ler artigo ↗inference performanceusa valores numéricos de menor precisão para representar parte dos dados do modelo ou cálculos para reduzir a sobrecarga de recursos.
Compressão do modelo
Ler artigo ↗inference performancepermite que os aplicativos recebam conteúdo de forma incremental antes que o resultado completo seja gerado, geralmente usado para conversas e interações em tempo real.
API de streaming
Ler artigo ↗Exportação e arquitetura no exterior
Pesquisa e descobertaindo para o exterior é um modelo de serviço digital que oferece recursos inteligentes, como raciocínio de modelo para aplicativos no exterior por meio de APIs ou plataformas.
Os serviços de IA
Ler artigo ↗Exportação e arquitetura no exterior
Pesquisa e descobertaIr para o exterior é a direção comercial de fornecer produtos e serviços para mercados estrangeiros em torno de recursos de computação, serviços em nuvem, modelos ou recursos de aplicativos.
Ler artigo ↗Exportação e arquitetura no exterior
Pesquisa e descobertadefine como as solicitações e respostas são trocadas entre aplicativos; a API do modelo permite que os desenvolvedores chamem recursos de modelo remoto.
API do modelo
Ler artigo ↗Exportação e arquitetura no exterior
Pesquisa e descobertaA limitação atual é um mecanismo para controlar o número de solicitações, uso de token ou simultaneidade dentro de um período de tempo. Muitas vezes é usado para gerenciar recursos e estabilidade de serviço.
Limite atual da API
Ler artigo ↗Exportação e arquitetura no exterior
Pesquisa e descobertaRAG recupera conteúdo relevante de dados externos antes da geração e, em seguida, entrega os dados e perguntas ao modelo para complementar o contexto.
Base de conhecimento empresarial
Ler artigo ↗Exportação e arquitetura no exterior
Pesquisa e descobertaIncorporação de objetos de mapas, como texto, em vetores numéricos para expressar similaridade e dar suporte a tarefas como pesquisa e agrupamento.
Vetor de texto
Ler artigo ↗Exportação e arquitetura no exterior
Pesquisa e descobertaoferece suporte ao armazenamento e recuperação de vetores, frequentemente usado com filtragem de metadados para pesquisa semântica e aplicações de base de conhecimento.
Pesquisa vetorial
Ler artigo ↗Ferramentas de desenvolvimento de IASEO é um conjunto de conteúdo e práticas técnicas que ajudam os mecanismos de pesquisa a descobrir, compreender e apresentar o conteúdo do site.
Otimização SEO
Ler artigo ↗Ferramentas de desenvolvimento de IAGEO geralmente se refere à prática de melhorar a descoberta, a compreensão e a probabilidade de citações de conteúdo na pesquisa generativa.
Otimização de pesquisa de IA
Ler artigo ↗Ferramentas de desenvolvimento de IArobots.txt é um arquivo de regras de rastreamento colocado no caminho raiz do site, que é usado para expressar preferências de acesso aos rastreadores que cumprem as regras.
Protocolo rastreador
Ler artigo ↗Ferramentas de desenvolvimento de IAajudam os mecanismos de pesquisa a entender a estrutura do conteúdo público, listando os URLs canônicos que você deseja que sejam descobertos.
Mapa do site
Ler artigo ↗Ferramentas de desenvolvimento de IAOs dados estruturados expressam entidades e relacionamentos em páginas, como sites, artigos, termos e localização atual, em um formato legível por máquina.
Marcação semântica
Ler artigo ↗Ferramentas de desenvolvimento de IAAI rastreia páginas da web públicas para oferecer suporte à pesquisa ou recuperação do usuário. Diferentes organizações podem distinguir entre fins de pesquisa, acesso de usuários e treinamento.
Codex/agente de programação
Ler artigo ↗Corpo inteligente e aplicaçãoCodex é o produto agente de programação da OpenAI que pode compreender código, modificar arquivos, executar verificações e auxiliar nas tarefas de software em um ambiente controlado.
Agente de programação OpenAI
Ler artigo ↗e inferênciausa a saída, distribuição de probabilidade ou informações intermediárias do modelo do professor para treinar o modelo do aluno para que ele possa aprender parte das capacidades do professor na tarefa alvo.
Destilação modelo
Ler artigo ↗Corpo inteligente e aplicaçãoUm “mantra” nos círculos de IA costuma ser uma maneira elegante de dizer um prompt, que se refere à descrição da tarefa, ao contexto, às restrições e aos requisitos de saída que o usuário entrega ao modelo.
Feitiço
Ler artigo ↗Corpo inteligente e aplicaçãointegram diálogo de modelo, contexto de código, conclusão, modificação e execução de ferramenta no fluxo de trabalho de desenvolvimento, permitindo que a IA participe de várias etapas de desenvolvimento.
IDE nativo de IA
Ler artigo ↗Corpo inteligente e aplicaçãoCursor é uma ferramenta de agente e edição de código construída em torno do desenvolvimento assistido por IA, fornecendo fluxos de trabalho como compreensão do contexto do código, interação de linguagem natural e modificação de código.
Editor de Cursor
Ler artigo ↗Corpo inteligente e aplicaçãoWindsurf é o nome do produto no ecossistema de ferramentas de desenvolvimento de IA e Cascade é o fluxo de trabalho do agente relacionado; atualmente os documentos oficiais relevantes foram direcionados para os documentos do Devin Desktop.
Ler artigo ↗Corpo inteligente e aplicaçãoTRAE é uma ferramenta que fornece experiência de desenvolvimento de software assistido por IA, cobrindo formas de produtos como IDE e SOLO, ajudando os desenvolvedores a compreender, escrever e verificar o código em torno dos requisitos.
Ler artigo ↗Corpo inteligente e aplicaçãoCline é um ecossistema de agente de programação que pode conectar modelos e ferramentas de desenvolvimento. Ele fornece integração com editores, terminais e outras entradas, podendo ler arquivos, modificar códigos e executar tarefas de ferramentas.
Plug-in Cline
Ler artigo ↗intelligent body and applicationOpenClaw é um sistema de assistentes e agentes de IA que roda em sua própria infraestrutura, conectando modelos, canais de mensagens e ferramentas para lidar com tarefas.
Assistente de IA auto-hospedado
Ler artigo ↗intelligent body and applicationAI é um sistema que seleciona etapas em torno de metas, chama ferramentas e usa feedback para avançar tarefas. Geralmente consiste em modelos, ferramentas, estados e regras de execução.
Corpo inteligente
Ler artigo ↗intelligent body and applicationManus é um produto de agente de IA para tarefas de várias etapas. As tarefas do agente podem ser criadas e gerenciadas por meio da interface do produto ou de APIs relacionadas.
Corpo inteligente geral
Ler artigo ↗intelligent body and applicationMuse é um produto de agente pessoal de IA lançado pela Meta. Ele é orientado para a execução de tarefas reais e usa recursos de modelo relacionados, como o Muse Spark.
Corpo inteligente
Ler artigo ↗e inferênciaMuse Spark é uma série de modelos da Meta, que fornece raciocínio e recursos multimodais para Meta AI, Muse e outros produtos e portais de desenvolvedores relacionados. As capacidades específicas dependem do modelo.
Ler artigo ↗Corpo inteligente e aplicaçãoVibe Coding refere-se a um método de desenvolvimento que usa linguagem natural e ferramentas de IA para formar software rapidamente, geralmente descrevendo objetivos, observando resultados e continuando a avançar iterativamente.
Programação de atmosfera
Ler artigo ↗