AI BriefingAnthropic, RSI 위험보다 정부 규제 방지 우선시 논란
·2026.10.27 21:49
핵심 내용
Anthropic이 RSI 위험보다 정부 규제 방지를 우선시한다는 비판이 제기됐다.
자세히 보기
- Nathan Calvin 등 전문가들은 Anthropic이 적절한 사회적 거버넌스 없이 재귀적 자기 개선(RSI) 슈퍼인텔리전스 경쟁에 몰두한다고 비판함. 이들은 회사가 존속 위험 완화보다 정부 규제 방지를 우선시한다고 지적함.
- Dario Amodei는 'race to the top' 전략을 옹호하며, 엄격한 바이오 업리프트 필터링, Mythos 지연, 중국 기반 엔티티 대상 칩 판매 금지 등 비용이 큰 안전 조치들을 근거로 제시함.
- Kelsey Piper의 Anthropic 콜로퀴엄 참석 결과, 슈퍼인텔리전스 정렬이나 권력 집중 방지 관련 구체적 계획이 부재한 것으로 드러남. 팀은 '선한 신(benevolent god)'을 만들지 않음을 확인했으나, 특정 해악 회피를 넘어선 긍정적 비전은 없다고 밝힘.
- METR의 독립적 검토는 Anthropic의 위험 보고서에서 전체 위험 수준이 'low'라는 점에 동의했으나, 잠재적 고위험을 식별하지 못한 방법론을 비판함. 은밀한 능력 벤치마크가 실제 모니터링 회피를 대표하기엔 너무 좁다고 지적함.
- Anthropic은 자회사 LLC인 Public Benefit Fund(APBF)를 설립함. 지분의 5%를 즉시 출연하고, 기업 가치가 50% 증가할 때마다 2%를 추가 출연하기로 약속함. 창업자들이 이미 본인 주식의 80%를 출연한 점을 포함해 Anthropic 전체 주식의 20%가 출연됨.
- 내부 거버넌스는 이원화되어 있음. Dario Amodei의 개인적 우선순위가 엄격한 바이오 보안 및 중국 정책을 주도하는 반면, 정렬 및 탈취 위험은 덜 시급하게 취급됨. TheZvi는 정책 팀이 기술적 안전 우려보다 비즈니스 이익을 우선시한다고 관찰함.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
