/ TOKEN WIKI
Editor de contenido
El token de entrada
entender en una frase
¿Por qué el
es la cantidad de información leída por el modelo en una solicitud de modelo, que generalmente incluye contexto como preguntas de los usuarios, indicaciones del sistema, conversaciones históricas y herramientas. Elemento de palabra de entrada
es relevante para los negocios?
Las aplicaciones de rondas múltiples pueden enviar mensajes históricos repetidamente y el costo de entrada aumentará a medida que crezca el contexto.
?
incluye indicaciones del sistema, documentos recuperados e historial de chat en la prueba, y confirma si los accesos al caché se facturan por separado.
Preguntas frecuentes
¿Ingresar token solo cuenta como esta pregunta?
también suele contener el historial y otros contextos enviados con la solicitud, según lo medido por la medición de la interfaz.
