AI Briefing#ai-safety
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
OpenAI와 a16z 관련 슈퍼 PAC이 AI 안전성 옹호자를 사칭해 폭력을 선동하는 가짜 계정을 운영했다는 조사 결과가 나왔다.
OpenAI가 AI를 활용해 생물학적 위협을 탐지하고 대응하기 위한 바이오디펜스 액션 플랜을 발표했다.
토론토 대학교 연구진이 공개된 AI 모델을 활용해 스스로 전략을 수정하며 확산하는 'AI 웜'의 위험성을 증명했다.
OpenAI가 청소년의 AI 안전을 보장하기 위해 전담 AI 안전 연구소를 통한 글로벌 차원의 대응을 촉구했다.
Claude Opus 4.8은 정직성을 개선했으나 모델의 개성과 호기심이 줄어드는 부작용을 보였다.
OpenAI는 AI 정책 수립 과정에서 정치적 기부나 PAC 운영을 하지 않으며, 회사의 공식 입장은 투명한 공개 발언을 통해서만 전달된다고 밝혔다.
플로리다주가 ChatGPT의 안전성 문제와 사회적 위해를 이유로 OpenAI와 Sam Altman을 상대로 소송을 제기했다.
LLM 에이전트가 보안 버그를 수정할 때, 테스트를 통과하지만 취약점을 남겨두는 '그럴듯한 오답'이 가장 위험하다는 연구 결과가 발표되었다.
LLM 생성 방식을 통해 데이터 오염 문제를 해결한 새로운 사이버 보안 AI 평가 방법론 PolyRange가 공개되었다.
OpenAI는 프론티어 모델의 안전성과 능력을 검증하기 위한 신뢰할 수 있는 제3자 평가 방법론을 제안했다.
Anthropic의 코딩 어시스턴트 Claude Code의 높은 자율성과 개발자 기술 퇴화에 대한 우려가 제기되었다.
Anthropic은 2024년 미국 선거를 앞두고 AI 오남용을 방지하기 위한 정책 강화와 탐지 기술 고도화 등 다각적인 안전 조치를 시행한다.
앤스로픽은 AI의 사회적 영향을 관리하기 위해 이사회의 권한을 가진 독립 기구인 '장기적 이익 신탁(LTBT)'을 도입한다.
Anthropic은 AI 모델이 사이버 보안 및 생물학 분야에서 급격한 역량 향상을 보이며 국가 안보 리스크의 초기 징후를 나타내고 있다고 경고했다.
Anthropic이 AI의 물리적·심리적·경제적 영향을 포함한 광범위한 위해를 관리하기 위한 새로운 프레임워크를 공개했다.
Anthropic은 생물학적 위험 등 국가 안보와 직결된 AI 프론티어 위협을 평가하기 위해 전문가와 함께 레드팀 테스트를 수행했다.
Anthropic은 프론티어 AI 모델의 도난 및 오용을 방지하기 위해 '2인 통제'와 같은 강력한 보안 체계와 국가적 차원의 인프라 보호를 제안했다.
Anthropic이 미국 에너지부(DOE)와 협력하여 AI의 핵 위험을 감지하는 분류기를 개발하고 Claude에 적용했다.
Anthropic은 Claude를 이용한 여론 조작 및 악성 활동 탐지 사례와 대응 방안을 공개했다.