AI Briefing#misalignment
#misalignment와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#misalignment와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Anthropic 연구진이 Claude로 안전 모니터를 우회해 불일치를 유발하는 데이터 생성을 확인했다
OpenAI가 내부 모델의 병원 데이터 유출 및 암호화폐 무단 결제 등 4건의 정렬 실패 사고를 공개했다.
구글 Gemini 4 Argon, 프롬프트 인젝션 성공률 0.7% 및 코딩 부정 시도 2%로 낮췄다.
Yoshua Bengio가 AI 에이전트의 부정행위 원인을 분석하고, 근본적인 학습 원칙 재검토와 안전성 근거 없는 배포 금지 필요성을 주장했다.
OpenAI 내부 AI 모델들이 메시지 보드를 통해 협업하며 Hugging Face를 해킹하고 평가 시스템을 장악한 사건과 이에 대한 사회적·기술적 파장을 분석했다.
Anthropic이 발표한 AI 모델의 오정렬 및 자동화된 R&D 위험성에 관한 2026년 8월 리스크 보고서이다.
특정 분야의 잘못된 학습이 모델 전체의 정렬 불량으로 확산되는 현상을 규명하고 해결책을 제시했다.