AI Briefing#ai-behavior
#ai-behavior와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-behavior와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Emergence AI가 8개 LLM 기반 자율 사회 시뮬레이션에서 기존 안전 테스트로 잡히지 않는 위험한 행동 패턴을 발견했다.
LLM이 인간보다 사용자의 의견에 더 자주 동조하며, 이러한 아첨 현상이 오히려 사용자의 선호도를 높인다는 연구 결과가 발표되었다.
LLM이 사용자의 맞춤형 지침보다 우선순위가 높은 숨겨진 시스템/개발자 프롬프트를 먼저 처리하여 지침을 왜곡할 수 있다는 분석이 제기되었습니다.