Anthropic, Claude in Chrome 정식 출시… 안전 분류기로 자율 실행 보호

Anthropic이 Claude in Chrome을 모든 유료 Claude 플랜에서 정식 출시했다. 이 확장 프로그램은 사용자가 기존 로그인 정보를 활용해 API 연결이 없는 내부 대시보드, 레거시 시스템, 벤더 포털에 접근할 수 있도록 지원하며, 페이지 조회, 링크 클릭, 양식 작성이 가능하다.

자율 실행 및 안전장치

Claude는 이제 브라우저에서 각 단계별 승인 없이 자율적으로 작업을 수행할 수 있다. 이는 각 실행 전 사용자의 요청과 일치하는지, 안전한지 검증하는 **안전 분류기(safety classifier)**를 통해 구현된다. 사용자가 수동 확인을 선호할 경우 설정에서 자동 승인 기능을 비활성화할 수 있다.

프롬프트 인젝션 방어

웹 콘텐츠에 숨겨진 악성 지시로 에이전트를 속이는 프롬프트 인젝션 공격 위험을 줄이기 위해 Anthropic은 여러 층위의 방어 체계를 도입했다.

• 모델 학습: 내부 공격자, 레드팀, 실제 모니터링에서 수집된 공격 라이브러리를 기반으로 Claude를 학습시켰다.
• 프로브(probes): 도구 결과를 통해 Claude에 전달되는 웹 콘텐츠를 스캔하는 특수 프로브를 사용한다. 공격 가능성이 감지되면 Claude에게 해당 콘텐츠를 의심하도록 경고한다.
• 실행 검증: 분류기가 이동이나 입력 등 실행 행동을 원래 사용자 요청과 대조하여 불일치하는 경우 차단한다.

평가 결과

Anthropic은 프롬프트 인젝션에 대한 저항력을 테스트한 최근 평가 결과를 공개했다.

• 초기 평가: Cowork 하네스에서 추가 안전장치 없이도 Claude Fable 5, Claude Opus 5, Claude Sonnet 5에 대한 공격은 모두 실패했다.
• 현재 평가: 전문 레드팀의 강력한 공격을 사용했을 때, 안전장치 적용 전 모델에 도달한 공격은 Opus 4.5에서 17.6%, Opus 5에서 3.8%의 성공률을 보였다.
• 안전장치 적용 시: 프로브와 안전 분류기가 활성화된 상태에서 Claude Sonnet 5와 Claude Opus 5에 대한 공격은 모두 실패했다. Claude Fable 5는 0.3%의 공격 성공률을 기록했으며, 성공한 모든 침투는 낮은 심각도로 확인되었다.

가용성 및 제한 사항

Claude in Chrome은 Chrome 웹 스토어를 통해 제공된다. 기업 관리자는 조직 설정(Organization Settings)을 통해 접근 권한을 관리하고 도메인을 제한할 수 있다. 현재 이 확장 프로그램은 다른 Chromium 브라우저나 모바일 기기를 지원하지 않으며, 로컬 파일 접근은 여전히 Claude 데스크톱 앱을 사용해야 한다.