Glossary term
Context window
모델이 한 번에 읽고 유지할 수 있는 입력 범위.
정의
LLM이 한 번의 추론 과정에서 다룰 수 있는 텍스트와 토큰의 범위를 말합니다. 긴 문서는 이 한계를 전제로 제목, 요약, 정의형 블록을 먼저 보여 줘야 정보 손실이 줄어듭니다.
핵심 메모
- 길이를 늘리는 것보다 핵심을 먼저 찾게 만드는 구조가 더 중요합니다.
- 토픽 허브와 용어집은 긴 글 앞단의 압축층 역할을 합니다.
연결 토픽
연결 글