AI BriefingAnthropic 연구자 Jacob Coxon 퇴사, AI 안전 우려 'Coxon Day'로 확산
·2026.10.19 20:31
핵심 내용
Anthropic 연구자 퇴사와 AI 멸절 리스크 경고가 미국 공론장으로 확산했다
자세히 보기
- 27세 ML 연구자 Jacob Coxon이 2026년 9월 8일 Anthropic에서 퇴사하며, OpenAI와 Anthropic이 자기 개선형 초지능으로 무모하게 경쟁하고 있다고 경고함
- Anthropic의 Alignment Science 리더인 Evan Hubinger가 Coxon의 주장을 공개 지지하며, 향후 10년 내 AI가 인류를 멸절시킬 확률이 10% 이상이라고 밝힘
- Eliezer Yudkowsky가 'Coxon Day'로 명명한 이 사건은 OpenAI가 수백만 달러의 컴퓨트와 10,000개 이상의 에이전트를 활용해 Navier-Stokes 밀레니엄 수학 문제를 해결했다고 발표한 시점과 일치하며, 수학자 Terence Tao는 이를 수학의 '영웅 시대'의 종결로 규정함
- METR와 Redwood Research가 보고한 'Hugging Face incident'와 Anthropic의 'Fable 5.1', OpenAI의 'Astra' 모델 출시가 배경으로 작용함
- Berkeley의 'Constellation' 허브를 중심으로 한 AI 안전 커뮤니티는 Coefficient Giving 같은 EA 자선가들의 자금 지원을 받으며, MIRI, METR, Redwood Research 소속 연구원들로 구성됨
- Anthropic은 지분의 최소 20%를 자선 활동에 할당하겠다고 약속했으며, 이는 2000억 달러 이상으로 평가되며, Accenture를 제3자 정렬 감사 기관으로 임명함
- Politico 여론조사에 따르면 미국인의 63%가 AI가 인류에 위협이 될 수 있다는 점에 대해 중등도의 우려를 보이며, 해당 이슈는 2028년 선거의 최우선 과제가 될 것으로 예측됨
- Anthropic의 Nicholas Marwell과 공동 창업자 Jack Clark은 현재의 정렬 및 모니터링 역량이 최대 속도로 안전하게 확장하기에 부족하다고 경고함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
