모델 및 추론 / 토큰 위키
컨텍스트 창
한 문장으로 이해하기
컨텍스트 창은 모델이 단일 처리 시간에 수용할 수 있는 토큰 범위이며 일반적으로 입력 및 출력 예산과 관련됩니다.
가 비즈니스와 왜 관련이 있나요?
공칭 창 용량은 모든 위치에서 모든 정보를 안정적으로 활용하는 것과 동일하지 않으며 무제한 메모리를 나타내지도 않습니다.
적용시 어떻게 판단하나요?
긴 문서에 중요한 정보를 배치하는 것의 영향을 평가하고 출력, 템플릿 및 도구 결과를 위한 공간을 허용합니다.
자주 묻는 질문
컨텍스트 창은 대화의 영구 메모리와 동일합니까?
아니요, 애플리케이션은 필수 정보를 다시 제공하거나 검색해야 합니다.
