토큰 및 청구 / TOKEN WIKI
컨텍스트 캐시
한 문장으로 이해하기
컨텍스트 캐싱은 특정 조건이 충족될 때 처리된 컨텍스트를 재사용하여 반복 계산을 줄이는 메커니즘입니다.
가 비즈니스와 왜 관련이 있나요?
워크로드는 이점을 얻을 수 있지만 캐싱 규칙, 유효 기간 및 단위 가격은 플랫폼에 따라 다릅니다.
적용시 어떻게 판단하나요?
실제 요청으로 적중률을 확인하고 적중 및 실패 사용량을 각각 기록합니다. 유사한 요청이 모두 적중할 수 있다고 가정하지 마십시오. 캐시를 켜면
자주 묻는 질문
가 더 저렴해 집니까?
반드시 그런 것은 아니며 적중률, 캐시 저장 또는 쓰기 요금 및 실제 청구 규칙에 따라 다릅니다.
