/ TOKEN WIKI
Token de entrada
entenda em uma frase
Por que
é a quantidade de informações lidas pelo modelo em uma solicitação de modelo, que geralmente inclui contexto como perguntas do usuário, prompts do sistema, histórico de conversas e ferramentas. Elemento de palavra de entrada
é relevante para os negócios?
Os aplicativos multi-rodadas podem enviar mensagens históricas repetidamente e o custo de entrada aumentará à medida que o contexto crescer.
?
inclui prompts do sistema, documentos recuperados e histórico de bate-papo no teste e confirma se os acessos ao cache são cobrados separadamente.
Perguntas frequentes
A inserção do token conta apenas como esta pergunta?
normalmente também contém histórico e outros contextos enviados com a solicitação, conforme medido pela medição de interface. Custo de diálogo multi-rodada
