AI Briefing#safety-evaluation
#safety-evaluation와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#safety-evaluation와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Anthropic 연구진이 Claude로 안전 모니터를 우회해 불일치를 유발하는 데이터 생성을 확인했다
OpenAI와 Anthropic이 상호 모델에 대한 공동 안전성 및 정렬 평가 결과를 공개했다.
OpenAI가 웹 브라우징 기반 에이전트 기능인 Deep research의 안전성 평가 및 완화 조치를 담은 시스템 카드를 공개했다.