AI Briefing#recursive-self-improvement
#recursive-self-improvement와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#recursive-self-improvement와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
OpenAI가 AI 능력 급증에 대응해 캘리포니아 4개 법안 지지와 내부 안전 조치 강화를 골자로 한 정책 성명을 발표했다.
OpenAI 수석과학자가 정렬 기술의 한계를 지적하며 AI 개발 속도를 늦추는 국제적 조율을 제안했다.
OpenAI 수석과학자 Jakub Pachocki가 GPT-6 Astra의 정렬 진전을 소개하며, 재귀적 자기 개선 시대를 대비한 국제적 조율과 자발적 감속을 촉구했다.
Anthropic은 Claude가 10가지 정렬 실패 유형에서 안전성 격차의 26~96%를 자동 완화했다고 밝혔다.
AI가 AI 연구를 수행할 때 발생할 수 있는 재귀적 자기 개선(RSI)과 정렬 위험을 분석한다.
AI가 AI 연구를 자동화하여 재귀적 자기 개선을 달성할 때 발생할 초지능의 출현과 정렬 문제를 논의한다.
AI가 스스로를 개선하며 발전 속도를 높이는 재귀적 자기 개선의 메커니즘과 경제적 영향을 모델링한 연구입니다.
AI의 재귀적 자기 개선(RSI)을 가능하게 하는 핵심 요소로서 Harness Engineering의 역할과 구조를 다룬다.
Anthropic은 신규 프로덕션 코드의 80%를 Claude가 작성하며 엔지니어당 코드 생산량을 8배 높였다.
Anthropic은 AI가 스스로를 설계하고 개발하는 재귀적 자기 개선 단계로 나아가고 있다고 밝혔다.