AI Briefing#ai-safety
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Anthropic이 AI 모델의 고도화된 역량과 위험을 측정하기 위해 제3자 기관의 평가 개발을 지원하는 새로운 이니셔티브를 발표했다.
OpenAI가 ChatGPT를 이용해 정치적 여론을 조작하려 한 이란의 'Storm-2035' 작전을 적발하고 관련 계정을 차단했다.
Anthropic이 AI의 급격한 발전에 따른 위험을 관리하기 위해 AI 안전 수준(ASL) 기반의 책임 있는 스케일링 정책(RSP)을 발표했다.
AI 안전 연구 기업 Anthropic이 신뢰할 수 있는 범용 AI 시스템 개발을 위해 1억 2,400만 달러 규모의 Series A 투자를 유치했다.
Google이 온디바이스용 Gemma 2 2B와 안전 분류기 ShieldGemma, 해석 도구 Gemma Scope를 출시했다.
OpenAI가 EU AI 법 준수를 위해 범용 AI 모델을 위한 실행 규약(Code of Practice)에 서명하며 규제 대응에 나섰다.
OpenAI는 인간의 피드백 없이도 모델의 안전성을 효율적으로 개선할 수 있는 Rule-Based Rewards(RBR) 방식을 도입했다.
LLM의 성능과 안전성을 고려한 강력한 엔터프라이즈 AI 솔루션 구축 방안과 미래 트렌드를 살펴본다.
OpenAI와 로스앨러모스 국립연구소가 멀티모달 AI의 생물과학 연구 활용 안전성을 평가하기 위한 연구 파트너십을 체결했다.
OpenAI가 사이버 보안 강화를 위해 미 육군 퇴역 장군 폴 M. 나카소네를 이사회로 영입했다.
OpenAI가 15초의 음성 샘플로 맞춤형 목소리를 생성하는 Voice Engine의 기술적 원리와 안전 연구 내용을 공개했다.
OpenAI가 AI 생성 콘텐츠의 진위 확인을 위해 C2PA 표준을 도입하고 텍스트 및 이미지 출처 기술을 강화한다.
OpenAI는 안전한 AI 발전을 위해 오픈 가중치 공개와 API 제공 방식이 모두 필요하다고 주장했다.
Lighthouz AI와 Hugging Face가 LLM의 개인정보 보호 가드레일을 테스트하는 Chatbot Guardrails Arena를 출시했다.
OpenAI가 Microsoft와 협력하여 AI를 악용해 사이버 공격을 시도한 5개 국가 지원 위협 행위자의 계정을 차단했다.
OpenAI가 NIST의 AI 행정 명령 관련 정보 요청에 응답하여 AI 위험 평가 및 안전 프레임워크에 대한 의견을 제출했다.