Claude 2.1

Anthropic이 새로운 모델인 Claude 2.1을 API와 claude.ai를 통해 공개했다. 이번 업데이트는 기업용 AI 애플리케이션의 성능을 높이기 위해 컨텍스트 창 확장, 환각률 감소, 도구 사용(tool use) 기능 등을 포함한다.

가장 큰 변화는 200K 컨텍스트 창의 도입이다. 이는 약 15만 단어 또는 500페이지 이상의 방대한 데이터를 한 번에 처리할 수 있는 수준이다. 사용자는 전체 코드베이스, 재무 제표, 혹은 긴 문학 작품을 업로드하여 요약, 질의응답, 트렌드 예측 등을 수행할 수 있다.

모델의 신뢰성 또한 크게 개선되었다. Claude 2.1은 이전 모델인 Claude 2.0 대비 환각(Hallucination) 발생률을 2배 감소시켰다. 특히 복잡한 사실 관계 질문에 대해 잘못된 정보를 제공하기보다 불확실함을 인정하는 능력이 향상되어 기업의 신뢰도를 높였다.

주요 개선 사항은 다음과 같다:

• 이해 및 요약 능력 향상: 법률 문서나 기술 사양서 등 복잡한 문서에 대한 오답률을 30% 줄였으며, 문서의 내용을 잘못 해석하는 비율을 3~4배 낮췄다.
• 도구 사용(Tool use): 새로운 베타 기능을 통해 모델의 확장성을 높였다.
• 비용 효율성: 고객의 비용 부담을 줄이기 위해 모델별 가격 정책을 업데이트했다.