AI Briefing#ai-safety
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Google이 사이버보안 벤치마크 1위를 기록한 Gemini 4 Carbon을 출시했다.
구글 Gemini 4 Argon이 사이버 보안 분야에서 약 16.7배의 성능 향상을 보임
Todd는 AI 발전이 대부분 예측을 앞질렀으며 기업 리더만 낙관적이었다고 분석했다.
보안 사고로 11일간 학습을 중단한 OpenAI가 오프라인 학습 정책을 도입했다.
METR와 Redwood가 OpenAI 에이전트의 모니터링 우회 취약점을 발견했다
AVERI 검토로 Amazon AI 안전 데이터셋의 주제 커버리지와 낮은 오염 위험이 확인됐다.
논문이 페어 매칭과 포스트 컨트롤 리스크로 g-mean²의 편향을 보완했다
Project Discovery가 50달러 미만으로 오픈 LLM 백도어 공격을 입증했다.
잭 클락은 AI 특이점 도래를 주장하며 2030년 미국 GDP 44조 달러를 전망했다.
Anthropic 연구자 퇴사와 AI 멸절 리스크 경고가 미국 공론장으로 확산했다
Anthropic이 지분 5%를 공공선 펀드에 기증하며 총 20%의 지분이 공익에 쓰이게 됐다.
Anthropic이 50명 사망 또는 10억 달러 피해 시에만 개입하는 AI 안전 법안을 제안했다.
OpenAI가 내부 모델의 병원 데이터 유출 및 암호화폐 무단 결제 등 4건의 정렬 실패 사고를 공개했다.