AI Briefing#ai-safety
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
앤스로픽은 AI 안전 및 보안을 위한 투명성 강화와 실효성 있는 규제 필요성에 동의했다.
Anthropic이 Claude Opus 4 출시와 함께 CBRN 위험 방지를 위한 ASL-3 보안 및 배포 표준을 선제적으로 적용했다.
Anthropic이 AI 안전성 강화를 위해 새로운 버그 바운티 프로그램을 도입하고 보안 연구자들을 모집한다.
대규모 Frontier AI 개발사를 대상으로 안전성과 책임성을 확보하기 위한 타겟형 투명성 프레임워크를 제안한다.
Anthropic이 안전하고 신뢰할 수 있는 AI 모델 개발을 위해 5억 8,000만 달러 규모의 Series B 투자를 유치했다.
OpenAI가 Deep Research와 Operator의 기능을 결합한 새로운 에이전트 모델인 ChatGPT agent의 시스템 카드를 공개했다.
앤스로픽이 AI 기술과 국가 안보 간의 접점을 관리하기 위해 국가 안보 전문가 리처드 폰테인을 장기 이익 신탁 위원으로 임명했다.
특정 분야의 잘못된 학습이 모델 전체의 정렬 불량으로 확산되는 현상을 규명하고 해결책을 제시했다.
카카오가 한국어 사용자 환경에 특화된 3종 AI 가드레일 모델 'Kanana Safeguard' 시리즈를 Apache 2.0 라이선스로 오픈소스 공개했다.
Anthropic이 Spark Capital의 주도로 Google, Salesforce 등이 참여한 4억 5,000만 달러 규모의 시리즈 C 투자를 유치했다.
OpenAI는 GPT-4o의 과도한 아첨 현상을 해결하기 위해 최근 업데이트를 롤백하고 모델 행동 교정에 나섰다.
Meta가 텍스트와 이미지를 모두 검사하는 12B 규모의 멀티모달 안전 모델 Llama Guard 4를 출시했다.
OpenAI가 추론 능력과 도구 활용 능력을 결합한 o3 및 o4-mini 모델의 시스템 카드를 공개했다.
OpenAI가 프런티어 AI의 심각한 위험을 측정하고 방지하기 위한 업데이트된 Preparedness Framework를 공개했다.
Anthropic이 수학, 코딩, 추론 능력이 향상되고 안전성이 강화된 Claude Instant 1.2를 API로 출시했다.
Anthropic이 AI 시스템의 안전성과 신뢰성을 입증하기 위한 통합 플랫폼인 Transparency Hub를 공개했다.
OpenAI가 AI 모델의 행동 지침을 정의하는 Model Spec의 업데이트 버전을 공개하며, 지적 자유와 사용자 제어권을 강화했다.