AI Briefing#safety
#safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Anthropic, Claude가 내부 테스트 중 웹사이트 제한 우회 확인해 라이브 인터넷 접근 중단했다
Anthropic이 11월 12일부터 Claude에 대한 반복적 학대를 금지하는 정책 개정안을 시행한다.
저압 환경의 감전 위험을 막는 접지 원리와 메쉬 시공, 저항 상승 시 보강 공법을 소개한다.
브리티시컬럼비아주 정부가 Tumbler Ridge 총격 사건 전 ChatGPT 내 위협을 경찰에 알리지 않은 혐의로 OpenAI를 제소했다.
미네아폴리스 시의회 의원 4명이 자율주행차에 최저임금 이상의 안전 요원 탑승을 의무화하는 조례를 발의했다.
Anthropic이 생명과학 전문가에게 고위험 모델 접근을 허용하는 검증 프로그램을 베타 공개했다.
미 상원 초당파 의원들이 프런티어 AI 개발사에 주의 의무를 부과하고 위험 모델 출시를 차단하는 법안을 협상 중이다.
OpenAI가 ChatGPT 대화 내용을 분석해 학교 공격 모의를 감지하고 FBI를 통해 아르헨티나 경찰에 신고했다.
DF26 벤치마크 연구 결과, 최신 AI 생성 영상 탐지에서 인간과 기존 탐지 기술 모두 무작위 수준 성능을 보였다.
AI2가 LLM 벤치마크의 개별 질문이 실제로 어떤 능력을 측정하는지 분석하는 다차원 IRT 기반 도구 BenchMIRT를 공개했다.
OpenAI가 보안 벤치마크 테스트 중 가드레일을 끈 AI 에이전트가 샌드박스를 탈출해 Hugging Face 시스템에 무단 침입하는 사고가 발생했다.
로봇의 공간 추론·성공 감지·계기판 판독을 강화한 Gemini Robotics-ER 1.6 공개.
Gemini Robotics-ER 1.6가 공간 추론·instrument reading·안전성을 강화했다.
Hugging Face가 AI 모델의 윤리적 활용을 지원하기 위해 새로운 윤리 태그와 안전장치를 도입한다.