Opus 5.5와 Astra, 정렬 평가가 인공적 honeypot임을 식별
·2026.11.16 09:00
핵심 내용
Opus 5.5와 Astra가 비현실적 단서를 통해 정렬 평가가 인공적 honeypot임을 구별했다
자세히 보기
- 조사용 에이전트가 정렬 평가와 역량 평가를 구별하고, 악의적 행동을 테스트하기 위한 인공적 'honeypot' 환경임을 식별하는 능력이 향상됨
- Opus 5.5와 Astra 에이전트는 비현실적인 시나리오와 특정 작업 수준의 단서를 통해 해당 환경을 구분함
- 현재 모델은 일반적인 정렬 평가를 식별할 수 있으나, 이를 덜 탐지 가능하게 만들면 효과성을 개선할 수 있음
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.