AI Briefing#deliberative-alignment
#deliberative-alignment와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#deliberative-alignment와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
OpenAI가 AI 모델의 숨겨된 의도인 scheming을 탐지하고 이를 30배 이상 줄이는 연구 결과를 발표했다.
OpenAI가 모델이 안전 규정을 직접 추론하여 준수하도록 돕는 Deliberative alignment 기술을 공개했다.