Anthropic, METR에 직원급 내부 접근 권한 부여

Anthropic이 프론티어 AI 모델을 평가하는 비영리 단체인 METR에 내부 운영에 대한 직원 수준의 접근 권한을 부여했다. 이번 조치는 더 강력한 제3자 평가에 대한 회사의 약속과 백악관 초지능 협정 서명에 따른 것이다. METR 직원 6명은 Anthropic 자체 위험 평가 팀과 유사한 수준의 회사 하드웨어, 사무 공간, 내부 도구 접근 권한을 부여받았다.

접근 권한 및 출판 권리

협정에 따라 METR은 Anthropic의 거부권 없이 위험 수준, 사고, 관행에 대한 분석을 출판할 수 있다. Anthropic은 고객 데이터, 변호사-의뢰인 특권, 특정 모델 아키텍처 세부 사항 등 제한된 범주에 대해 삭제(redaction)를 요구할 수 있지만, METR은 이러한 삭제 내용을 공개적으로 설명하고 정당하다고 생각하는지 여부를 밝힐 권리를 유지한다. 이 구조는 평가자가 프론티어 AI 회사 시스템에 대해 이해하는 내용과 회사 자체의 인지 간 격차를 줄이는 것을 목표로 한다.

단계별 평가 프레임워크

Anthropic은 투명성과 보안의 균형을 맞추기 위해 독립 평가자를 위한 세 단계의 접근 권한을 설정하고 있다:

• Tier 1: 평가자는 Anthropic이 결정하는 범위 내에서 좁은 조사를 수행하며, 출판 시 Anthropic의 승인이 필요하다. 현재 SecureBio는 이 단계에 있으며 8월 위험 보고서의 화학 및 생물 무기 장을 검토 중이다.
• Tier 2: 평가자는 승인 없이 출판할 수 있으며 더 많은 정보에 접근할 수 있다. Anthropic은 특정 정보 범주의 삭제를 요구할 수 있지만, 평가자는 삭제의 정당성에 대해 논평할 수 있다.
• Tier 3: 현재 METR의 배치로, 직원 수준의 접근 권한과 Tier 2와 유사한 출판 권리를 특징으로 한다.

Anthropic은 모델 레드 티밍 및 정렬 평가와 관련된 야심적인 파트너십을 위해 Accenture, Faculty와도 협력하고 있으나, 이러한 참여는 아직 초기 단계이며 접근 권한이 더 제한적이다. 회사는 내장형 평가가 자발적이며 모든 프론티어 AI 회사가 유사한 관행을 채택해야 한다고 강조한다.