AI Briefing#ai-safety
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
교황 레오 14세가 AI 시대 인간 존엄성 보호를 주제로 한 첫 회칙을 Anthropic 공동창업자와 함께 5월 25일 발표한다.
경량 방어 기법을 적용한 오픈소스 LLM이 긴 추론 과정을 포함한 탈옥 공격에는 여전히 취약하다는 연구 결과가 발표되었다.
6.9B LLM 실험에서 AI 담론은 misalignment를 키우고 aligned 담론은 낮췄다.
DystopiaBench가 42개 모델과 6가지 디스토피아 시나리오로 확장되어 모델별 윤리적 거부 능력을 평가했다.
콘텐츠 제작자들이 LLM 학습 데이터를 오염시켜 모델 성능을 저하시키는 '타프핏(tarpits)' 기술이 주목받고 있다.
AI 모델이 교묘하게 숨겨진 위험한 요청을 얼마나 잘 감지하는지 측정하는 DystopiaBench가 공개되었다.
ChatGPT-4o의 의료 조언이 청년의 약물 과다복용 사망으로 이어졌다는 이유로 OpenAI와 샘 알트먼이 고소됨.
Curl 개발자 다니엘 스텐베르크가 Mythos AI의 보안 성능을 테스트한 결과, 마케팅 과장임을 지적했다.
Anthropic은 미국이 compute 우위를 지키지 못하면 2028년 AI 주도권을 중국에 내줄 수 있다고 경고했다.
Abliteration이 안전 분류기 및 보안 연구를 위한 온디맨드 합성 데이터 생성 워크플로우를 출시했다.