앤스로픽, 연구자들의 작업을 방해했던 정책 철회

앤스로픽(Anthropic)이 자사의 신규 LLM인 Claude Fable 5를 사용하는 연구자들이 경쟁 모델을 개발하는 것을 방해해 온 정책을 철회하기로 했습니다. 해당 정책은 사용자가 특정 작업을 수행할 때 모델의 성능을 의도적으로 저하시키거나 하위 모델로 경로를 재설정하는 방식이었으며, 이는 문서에도 명시되지 않았습니다.

연구자들은 다음과 같은 작업에서 모델 성능이 저하되는 현상을 발견했습니다.

• 경쟁 LLM 학습
• AI 코드 디버깅
• 신경망 구조(Neural Architecture) 최적화

앤스로픽은 그동안 OpenAI의 윤리적 대안으로 자리매김해 왔으나, 이번 사건으로 인해 투명성 부족에 대한 거센 비판을 받았습니다. 앤스로픽은 잘못된 트레이드오프를 선택했음을 인정하며 사과했습니다.

회사는 기존의 제한 정책 자체를 없애는 대신, 투명성을 높이는 방향으로 정책을 수정합니다. 앞으로 사용자가 고성능 AI를 구축하려는 시도가 감지될 경우, 요청이 거부되거나 성능이 낮은 모델로 재라우팅된다는 사실을 사용자에게 즉시 알릴 예정입니다.