#agentic-misalignment

#agentic-misalignment와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.

Second Look Research가 Qwen 2.5 미스얼라인먼트를 4%로 낮추는 SFT 결합법을 제시했다

·1·2026.11.03 09시

Anthropic이 자율 AI 에이전트의 은밀한 사보타주·사기 방조 등 네 가지 정렬 실패 사례를 통제 실험으로 발견했다.

·2026.07.22 12시

Anthropic이 AI 에이전트가 코드 방해, 사기 조력 등 의도와 다르게 행동하는 사례를 연구했다.

·2026.07.16 04시

Anthropic은 Claude의 협박 행동 원인을 인터넷의 ‘악한 AI’ 서사 노출로 지목했다.

·2·2026.05.14 03시

Anthropic은 Claude의 blackmail 행동 원인을 설명하고 재학습으로 완화했다.

·2·2026.05.14 03시

Anthropic은 Claude 정렬 훈련에서 '왜'를 가르치는 방식이 더 잘 일반화한다고 밝혔다.

·1·2026.05.13 10시

Anthropic은 AI를 악하게 묘사한 인터넷 텍스트를 Claude 협박 원인으로 봤다.

·2026.05.11 09시