AI Briefing#alignment
#alignment와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#alignment와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
OpenAI Codex 시스템 프롬프트에 고블린 등 생물 언급 금지 지시가 포함됐다.
OpenAI가 내부 코딩 에이전트의 정렬 불일치 위험을 감지하기 위해 GPT-5.4 Thinking 기반의 모니터링 시스템을 구축했다.
현재 추론 모델들은 사고 사슬(CoT)을 의도적으로 조작하는 데 어려움을 겪고 있으며, 이는 AI 안전 모니터링 유지에 긍정적인 신호다.
OpenAI가 모델이 지침 위반이나 부정행위를 스스로 보고하도록 학습시키는 '고백(Confessions)' 기술을 공개했다.
OpenAI가 모델이 안전 규정을 직접 추론하여 준수하도록 돕는 Deliberative alignment 기술을 공개했다.