AI Briefing#ai-safety
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
OpenAI가 파리 AI 액션 서밋에 참여해 AI를 통한 경제 성장 방안을 논의하고 유럽 경제 청사진을 발표할 예정이다.
OpenAI가 GPT-4o의 시각 기능과 강화 학습을 결합해 컴퓨터를 직접 조작하는 에이전트 'Operator'의 안전성 보고서를 공개했다.
Anthropic이 AI 거버넌스 국제 표준인 ISO/IEC 42001 인증을 획득하며 AI 안전성에 대한 신뢰를 입증했다.
Anthropic은 2024년 글로벌 선거 기간 중 AI 오남용을 방지하기 위해 정책 강화, 모델 테스트, 정확한 정보 제공 등 다각적인 대응책을 마련했다.
Anthropic은 AI 시스템의 역량과 위험을 정확히 측정하기 위해 NIST에 대한 연방 정부의 투자를 확대해야 한다고 제안했다.
Anthropic은 전문가 기반의 정책 취약성 테스트와 자동화된 평가를 통해 선거 관련 AI 리스크를 식별하고 완화한다.
OpenAI가 사람과 AI를 결합해 AI 모델의 위험을 탐지하는 레드팀 기술 고도화 방안을 발표했다.
Anthropic이 AI의 치명적 위험을 관리하기 위한 책임 있는 스케일링 정책(RSP)을 업데이트했다.
OpenAI가 GPT-4o 기반의 새로운 멀티모달 moderation 모델을 Moderation API에 도입했다.
Anthropic이 책임 있는 스케일링 정책(RSP)을 이행하며 얻은 성과와 향후 고도화 방향을 공유했다.
Anthropic이 AWS를 통해 미국 정보 공동체 및 정부 기관에 Claude 모델 제공을 확대한다.