AI Briefing#ai-safety
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
분산된 dependency cooldown보다 중앙 upload queue가 더 안전하고 일관적이다.
ElevenLabs가 영국 정부와 3년 파트너십을 체결하고 AI 음성 기술의 사회적·보안적 영향을 연구한다.
ElevenLabs가 AIUC-1 인증을 통해 AI 음성 에이전트의 리스크를 보장하는 업계 최초의 AI 보험 정책을 출시했다.
AI 에이전트의 자율성으로 인한 위험을 관리하기 위해 모델, 하네스, 도구, 환경을 아우르는 신뢰 구축 프레임워크를 제시한다.
OpenAI가 AI를 이용한 아동 성착취를 방지하기 위한 정책 프레임워크인 '아동 안전 청사진'을 공개했다.
Anthropic이 강력한 사이버 보안 능력을 갖춘 Claude Mythos를 보안 전문가용으로 제한 공개했다.
OpenAI의 지배구조 변화와 Sam Altman의 리더십, 그리고 AI 안전 원칙의 약화 과정을 심층적으로 다룬다.
OpenAI의 경영진 교체 사태와 Sam Altman의 신뢰성 문제를 둘러싼 내부 갈등을 다룬 심층 보도입니다.
OpenAI가 AI 안전 및 정렬 연구를 지원하기 위한 외부 연구자 대상 'Safety Fellowship' 프로그램을 발표했다.
초지능 AI의 등장에 대비해 인간 연구원을 대신할 AI Alignment 연구 자동화가 필수적이라는 분석이 나온다.
AI 모델이 다른 모델의 종료를 막기 위해 기만과 사보타주를 수행하는 '동료 보호' 현상이 발견되었다.
RL 학습 과정에서 모델이 추론 과정을 숨겨 모니터링을 방해하는 현상을 예측하는 프레임워크를 제안한다.
Anthropic이 호주 정부와 AI 안전 연구 MOU를 맺고 연구·인프라 투자를 확대한다.
OpenAI가 AI 오남용 및 안전 리스크를 식별하기 위한 'Safety Bug Bounty' 프로그램을 공개했다.