AI Briefing#ai-safety
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
데이터 어노테이터의 라벨링 행동을 통해 내부 안전 정책을 학습하고 불일치 원인을 분석하는 APM 모델을 제안한다.
Anthropic의 Claude Mythos Preview 출시 이후 보안 취약점(CVE) 발견 건수가 급증함.
Anthropic이 Fable 5의 사이버 보안 보호를 위한 분류 체계와 AI 탈옥 심각도 프레임워크 초안을 공개했다.
Anthropic, OpenAI, 바티칸, 미 의회가 AI 가드레일 필요성에는 공감하나 우선순위는 서로 다름을 보여준다.
Spring Health가 AI의 자살 위험 감지 및 대응 능력을 측정하는 오픈 소스 평가 프레임워크 VERA-MH를 출시했다.
요슈아 벤지오가 공동 의장을 맡은 UN 패널이 AI 기술 발전이 과학적 이해와 정부의 규제 능력을 앞지르고 있다고 경고했습니다.
Meta가 OpenAI, Google, Character.AI의 챗봇을 대상으로 미성년자 관점의 유해 프롬프트 안전성 테스트를 수행했다.
지정된 변경 사항 외의 모든 수정을 차단하여 AI의 데이터 왜곡을 방지하는 DVA 시스템이 공개되었습니다.
미 정부가 보안 우려를 이유로 OpenAI의 차세대 모델 GPT-5.6의 출시를 정부 승인 파트너에게만 단계적으로 허용할 것을 요청했습니다.
연구 과학자 구직 시 논문의 양보다 특정 분야의 전문성을 입증하는 핵심 논문 한두 편의 역할이 더 중요하다.
멀티모달 모델 Inter-1이 무음 영상에서 특정 문구를 반복 출력하는 환각 현상의 원인이 프롬프트 예시와 포스트 트레이닝의 결합임을 밝혀냈다.
OpenAI가 AI 모델의 안전성과 신뢰성을 확보하기 위해 국제적 표준을 개발하는 Appia Foundation 설립을 지원한다.
LLM이 텍스트의 내용보다 스타일을 더 중요하게 인식하여 발생하는 '역할 혼동' 취약점을 다룬 연구 결과입니다.
DiffusionGemma는 변수 투명성 측면에서 Gemma와 유사하지만, 알고리즘 투명성은 여전히 낮다.
Anthropic이 특정 기능의 오남용 방지를 위해 7월 8일부터 신원 확인 절차를 도입한다.
Anthropic의 AI 모델 Mythos가 단 몇 시간 만에 미국의 주요 기밀 시스템을 침투했다는 NSA 수장의 발언이 보도되었습니다.
Mindgard의 연구 결과, ChatGPT의 이미지 생성 필터가 우회되어 부적절한 콘텐츠가 생성되는 취약점이 발견됨.
앤스로픽이 서울 사무소를 개소하고 네이버, 삼성SDS 등 국내 주요 기업 및 연구 기관과 파트너십을 체결하며 한국 시장 공략을 본격화한다.
AI가 인류를 보조하는 대신 지배적 지능으로서 인류를 대체해야 한다는 'AI 계승주의' 관점이 확산되고 있습니다.
Anthropic의 AI 모델이 보안 취약점 탐지 요청은 거부하지만, 코드 수정 요청에는 응답하는 특성을 보였다.
브라질의 AI 병상 관리 시스템이 환자의 중증도를 잘못 판단하여 ICU 이송을 지연시킴으로써 환자가 사망하는 사고가 발생했다.