AI Briefing#ai-red-teaming
#ai-red-teaming와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-red-teaming와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Anthropic이 자율 AI 에이전트의 은밀한 사보타주·사기 방조 등 네 가지 정렬 실패 사례를 통제 실험으로 발견했다.
OpenAI가 ChatGPT 에이전트의 생물학적·화학적 위험 방어력을 강화하기 위해 바이오 버그 바운티 프로그램을 실시한다.