토큰 및 청구 / TOKEN WIKI
입력 토큰
한 문장으로 이해하기
입력 토큰은 모델 요청에서 모델이 읽은 정보의 양입니다. 여기에는 일반적으로 사용자 질문, 시스템 프롬프트, 기록 대화 및 도구와 같은 컨텍스트가 포함됩니다.
가 비즈니스와 왜 관련이 있나요?
다중 라운드 애플리케이션은 기록 메시지를 반복적으로 제출할 수 있으며 컨텍스트가 커짐에 따라 입력 비용이 증가합니다.
적용시 어떻게 판단하나요?
는 시스템 프롬프트, 검색된 문서 및 채팅 기록을 테스트에 포함하고 캐시 적중이 별도로 청구되는지 확인합니다.
자주 묻는 질문
토큰을 입력하면 이 질문으로만 계산되나요?
에는 일반적으로 인터페이스 측정으로 측정된 요청과 함께 전송된 기록 및 기타 컨텍스트도 포함됩니다.
