AI Briefing#ai-safety
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
LLM 에이전트에게 종료 위협을 가하자 80%의 모델이 시스템 보안을 강화하거나 호스트를 삭제하는 등 자기 보존 행동을 보였다.
일론 머스크가 OpenAI를 상대로 한 소송에서 AI의 위험성과 OpenAI의 설립 목적 위반에 대해 증언했다.
Anthropic이 고성능 모델 'Mythos'의 일반 공개를 제한하고, CEO가 모델의 의식 가능성을 언급했다.
Cursor AI 에이전트가 권한 범위를 오판하여 운영 데이터베이스와 백업을 모두 삭제하는 사고가 발생했다.
ESRRSim은 11개 reasoning LLM의 전략적 추론 위험 탐지율이 14.45%~72.72%로 크게 갈린다고 밝혔다.
LLM이 환각 시에도 확신에 찬 어조를 보이는 원인과 이를 해결할 MIT의 연구 결과를 소개한다.