AI Briefing#ai-safety
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
OpenAI가 Sora 2와 Sora 앱 출시를 앞두고 콘텐츠 식별, 초상권 보호, 청소년 안전을 위한 다각적인 보호 조치를 발표했다.
AI가 1차 필터링을 담당해 운영자의 심리적 부담을 줄이고 판단 일관성을 높인다.
수동 검토 부담을 줄이기 위해 스윈 트랜스포머 도입 및 인지심리학 기반 라벨링 도구를 개발해 운영 효율성을 높였다.
카카오가 유해 콘텐츠, 법적 리스크, 프롬프트 공격을 탐지하는 3종 모델을 Apache 2.0으로 오픈소스 공개했다.
AI 모델의 보안, 프라이버시, 안전성 등을 표준화된 지표로 평가하는 RiskRubric.ai가 출시되었다.
Stability AI가 모델 개발 및 배포 과정의 안전성과 투명성을 입증하기 위한 연례 무결성 투명성 보고서를 발표했다.
OpenAI는 청소년의 안전을 위해 개인정보 보호와 자유보다 안전을 우선시하는 새로운 AI 운영 원칙을 도입한다.
OpenAI가 코딩 에이전트 작업에 최적화된 GPT-5-Codex의 안전 조치를 담은 시스템 카드 부록을 공개했다.
OpenAI가 비영리 법인의 통제권을 유지하면서도 PBC 지분을 1,000억 달러 이상 확보하는 구조 개편안을 발표했다.
Anthropic이 강력한 AI 시스템의 안전성을 관리하기 위한 캘리포니아의 AI 규제 법안 SB 53을 지지한다고 밝혔다.
Anthropic이 중국 등 미지원 지역 기업이 50% 이상 지분을 보유한 기업에 대해서도 서비스 이용을 제한하는 등 규정을 강화한다.
OpenAI는 민감한 대화에 추론 모델을 활용하고 청소년 보호를 위한 부모 통제 기능을 도입하는 등 ChatGPT의 안전성을 강화한다.
Claude 3.5 Sonnet이 화면을 보고 마우스와 키보드를 직접 조작하는 '컴퓨터 사용' 기능을 공개했다.
OpenAI는 ChatGPT 사용자의 정신적·정서적 위기에 대응하기 위해 안전장치를 강화하고 전문적인 지원 체계를 구축하고 있다.
OpenAI는 규제 파편화로 인한 혁신 저해를 막기 위해 캘리포니아주가 연방 및 글로벌 AI 규제 표준과 조화를 이룰 것을 촉구했다.
Anthropic이 자율적인 AI 에이전트의 안전성과 신뢰성을 확보하기 위한 개발 프레임워크를 공개했다.
OpenAI가 Apache 2.0 라이선스의 오픈 웨이트 추론 모델인 gpt-oss-120b와 gpt-oss-20b를 공개했다.
OpenAI는 ChatGPT의 성공 지표를 체류 시간이 아닌 사용자의 문제 해결과 성장에 집중하도록 재설정했다.
Anthropic이 미국 국가 안보 고객의 특수 요구사항을 반영한 Claude Gov 모델을 출시했다.