컨텍스트 윈도우를 현명하게 활용하기

​

컨텍스트 윈도우란?

각 세션 창에는 컨텍스트 길이 제한이 있습니다. 채팅 상자 위에서 현재 창이 사용한 컨텍스트 양을 확인할 수 있습니다. 예를 들어 아래 그림의 30.2k / 300.0k——왼쪽은 사용한 세션 크기, 오른쪽은 현재 세션의 컨텍스트 상한입니다.

​

컨텍스트 상한 설정

단일 세션의 컨텍스트 상한은 모델 능력에 따라 결정됩니다. 현재 주류 모델은 최대 1M까지 지원합니다. SoloEnt는 필요에 따라 단일 세션의 컨텍스트 상한을 적절한 수준으로 설정할 수 있습니다.

• 200K~300K로 유지하는 것을 권장합니다.
• 주류 실천: Codex Cloud 같은 성숙한 Agent 제품의 경험을 참고하면, 보통 첫 번째 단계(200K~300K)의 컨텍스트만 사용하고 더 높은 단계는 거의 쓰지 않습니다.

​

왜 단일 창에서 1M을 다 쓰는 것을 권장하지 않는가

​

모범 사례

창을 전환한다는 것은 현재 창의 세션 기록을 포기한다는 뜻이라, 많은 사용자가 아깝게 느낍니다. 하지만 단일 창에 지나치게 의존하는 것은 실제로 비경제적이고 장기 컨텍스트의 품질도 보장하기 어렵습니다.

• 작업 분리 원칙: “한 세션에 한 가지 일”을 지향하고, 작업 완료 후 완료 상황을 확인합니다.
  • 다음 작업이 관련 있는 경우: 먼저 현재 세션을 요약해 프로젝트 파일(SOLOENT.md 등)에 정착시킨 뒤 새 세션에서 이어갑니다.
  • 다음 작업의 관련성이 약한 경우: 과감히 새 세션을 열어 기록 token 누적을 피합니다.
• 세션 압축 기능 사용하기: 세션 내용이 너무 쌓이면 /compact 명령으로 현재 내용을 짧은 요약으로 정리해 새 세션의 초기 입력으로 삼습니다——핵심 정보를 유지하면서 token 소비를 낮춥니다.

• 컨텍스트 사용량이 약 200K 를 넘겨 계속 사용하면 비용 급증을 부를 수 있습니다. 일반적으로 단일 창이 100~150K 에 도달하면 적절한 시점에 새 창을 여는 것을 고려하는 것이 좋습니다.

​

새 창을 열기 전에 반드시 요약과 문서 정착을

1. 장편 소설 창작: 프로젝트에서 /init 로 SOLOENT.md 를 생성하고 캐릭터, 개요, 현재 진행 상황 등 핵심 컨텍스트를 기록합니다. 새 창을 열 때마다 모델은 SOLOENT.md 를 읽어 프로젝트 전체 그림을 빠르게 복원할 수 있으며, 단일 세션에 쌓인 컨텍스트에 의존하지 않습니다.
2. 논의가 많을 때: 당신과 Agent의 논의가 많아 컨텍스트 사용량이 높아졌다면, 새 창(또는 새 모델)으로 전환하기 전에 Agent에게 현재 논의를 한 번 정리하게 하고 결론을 읽을 수 있는 문서로 정착시킵니다. 전환 후 그 문서를 먼저 읽으면 앞 내용을 빠르게 파악할 수 있습니다.