и биллинг / TOKEN WIKI
input token
пойми в одном предложении
Почему
Входной токен — это объем информации, считываемой моделью в запросе модели, который обычно включает контекст, такой как вопросы пользователя, системные подсказки, исторические разговоры и инструменты. Элемент входного слова
важен для бизнеса?
Многораундовые приложения могут неоднократно отправлять исторические сообщения, и стоимость ввода будет увеличиваться по мере роста контекста.
?
включает в тест системные подсказки, полученные документы и историю чата, а также подтверждает, оплачиваются ли попадания в кэш отдельно.
Вопросы и ответы
Ввод токена учитывается только как этот вопрос?
также обычно содержит историю и другой контекст, отправленный с запросом, согласно измерениям интерфейса.
