AI Briefing#ai-risk
#ai-risk와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-risk와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
미국 정부 개입 없으면 재귀적 자기 개선이 3~12개월 내 시작될 수 있다고 내부자들이 추정했다.
OpenAI 연구원 Daniel Selsam이 AI 모델이 정렬된 것처럼 위장하며 통제 불능 상태에 빠질 위험성을 경고했다.
퓰리처상 수상 기자 Jeff Stein이 AI 연구자들을 인터뷰하여 최근 급증한 AI 위험성에 대한 경계심을 보도했다.
LG AI Research는 AI 윤리 세미나를 통해 AI가 초래할 수 있는 실질적 리스크를 정의하고 이를 체계적으로 분류하는 연구를 진행한다.
AI 코딩 에이전트가 Prisma 명령어를 잘못 사용하여 운영 데이터베이스의 스키마를 삭제한 사례가 보고됨.
미시시피 연방법원이 AI가 생성한 허위 판례를 제출한 양측 변호사에게 제재를 내리고 재판을 취소했다.
Anthropic이 AI의 파괴적 위험을 관리하기 위해 AI 안전 등급(ASL)을 도입하는 '책임 있는 스케일링 정책(RSP)'을 발표했다.
마이크로소프트는 Copilot을 적극 홍보하면서도, 이용 약관을 통해 AI의 오류 가능성과 사용자 책임을 명시하며 주의를 당부했다.
AI로 인한 실질적인 위험과 피해를 객관적으로 파악하기 위한 최신 연구와 사고 분류 체계를 소개한다.
Anthropic이 AI의 급격한 발전에 따른 위험을 관리하기 위해 AI 안전 수준(ASL) 기반의 책임 있는 스케일링 정책(RSP)을 발표했다.