AI Briefing#ai-safety
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
시스템 프롬프트 방식의 한계를 보완하기 위해 AI 서비스에는 별도의 전용 가드레일 시스템이 필요하다.
OpenAI가 AI 안전 및 법규 준수와 관련해 직원이 안심하고 문제를 제기할 수 있도록 보호하는 '문제 제기 정책'을 공개했다.
Anthropic이 캘리포니아의 새로운 AI 안전 규제인 SB 53을 준수하기 위한 프레임워크(FCF)를 공개했다.
Xiaomi가 LLM의 유용성과 안전성 사이의 균형을 측정하기 위한 Mimo V2 Flash 평가 프레임워크를 공개했다.
Anthropic은 Claude 사용자들이 상담, 코칭, 동료애 등 정서적 목적으로 AI를 활용하는 패턴을 분석했다.
OpenAI는 AI의 사이버 보안 역량 향상에 맞춰 방어자를 지원하고 오용을 막기 위한 다층적 보안 전략을 강화한다.
OpenAI가 모델이 지침 위반이나 부정행위를 스스로 보고하도록 학습시키는 '고백(Confessions)' 기술을 공개했다.
OpenAI는 정신 건강 관련 소송에 대해 투명성과 존중을 바탕으로 대응하며, 기술적 안전장치를 지속적으로 강화하겠다고 밝혔다.
Anthropic은 미국의 AI 액션 플랜이 인프라 확충과 안전성 강화를 강조한 점을 환영하며 정책적 협력을 기대한다고 밝혔다.
Anthropic이 130억 달러 규모의 Series F 투자를 유치하며 기업 가치 1,830억 달러를 달성했다.
가중치의 대부분을 0으로 만드는 sparse models를 통해 신경망의 내부 동작을 쉽게 파악할 수 있는 sparse circuits를 구현했다.
OpenAI가 GPT-5.1 Instant 및 Thinking 모델의 안전성 지표를 업데이트한 시스템 카드 추가 사항을 공개했다.
OpenAI가 청소년을 위한 책임감 있는 AI 구축 가이드라인인 'Teen Safety Blueprint'를 발표했다.
허깅페이스가 무단 음성 복제를 방지하기 위해 사용자의 명시적 동의가 필요한 '음성 동의 게이트' 기술을 제안했다.
OpenAI가 정신 건강 및 자해 등 민감한 대화에 더 효과적으로 대응하도록 ChatGPT 모델을 업데이트했다.
OpenAI가 AI 기술이 사용자의 정신 건강과 정서에 미치는 영향을 연구하고 가이드라인을 제시할 전문가 위원회를 구성했다.