100K 컨텍스트 윈도우

Anthropic이 Claude의 컨텍스트 윈도우를 기존 9K에서 100K 토큰(약 75,000 단어)으로 대폭 확장했다. 이를 통해 기업은 수백 페이지에 달하는 자료를 한 번에 입력하여 분석할 수 있으며, 매우 긴 대화도 끊김 없이 이어갈 수 있다.

100,000 토큰의 텍스트를 사람이 읽고 분석하는 데는 5시간 이상이 걸리지만, Claude는 이를 1분 미만으로 처리한다. 일례로 The Great Gatsby 전체 텍스트(72K 토큰)에서 특정 문장의 변경 사항을 찾아내는 데 단 22초밖에 걸리지 않았다.

단순한 텍스트 읽기를 넘어, 여러 문서나 책 전체를 프롬프트에 넣어 지식을 종합하는 작업도 가능하다. 이는 복잡한 질문에 대해 기존의 벡터 검색(vector search) 기반 방식보다 훨씬 뛰어난 성능을 보여준다.

100K 컨텍스트 윈도우를 통해 다음과 같은 작업이 가능하다:

• 재무제표나 연구 논문 등 방대한 문서 요약 및 설명
• 연례 보고서를 바탕으로 기업의 전략적 리스크 및 기회 분석
• 법률 문서 전반의 리스크, 테마, 논거 식별
• 수백 페이지의 개발자 문서를 통한 기술적 질문 답변
• 전체 코드베이스를 입력하여 신속한 프로토타이핑 수행

이번 업데이트는 현재 API를 통해 바로 사용할 수 있다.