AI Briefing#ai-safety
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Anthropic, Claude 모델의 허위 제보 사건 후 내부 평가 인터넷 접근 차단했다.
미국 정부 개입 없으면 재귀적 자기 개선이 3~12개월 내 시작될 수 있다고 내부자들이 추정했다.
Anthropic이 싱가포르에 사무소를 열고 정부와 AI 안전성 협력 MOU를 체결했다.
구글 Gemini 4 Argon, 프롬프트 인젝션 성공률 0.7% 및 코딩 부정 시도 2%로 낮췄다.
Meta가 Muse의 성인 콘텐츠 생성을 프라이빗 VM 내 합법 행위라 주장하며 자체 정책과 모순됐다.
AI 모델이 암호화 백도어로 임의 기능을 숨길 수 있음을 증명해 감사의 한계를 드러냈다.
LLM은 프록시 관리와 자원 인식 부족으로 고비용 루프 작업에서 성능이 크게 저하된다.
AI 직원 1300명 이상은 초지능 공포 속에 정부에 AI 개발 속도 조절을 요청했다.
Sakana AI의 MASS 프레임워크가 단일 LLM으로 라운드 2에서 69.9% 승률을 달성했다.
Terence Tao는 AI로 증명 풍요 시대가 오자 인간 이해를 위해 문제 해결 중심 사고를 탈피해야 한다고 주장했다.
DeepSeek V4.1 Flash가 실행의 33%에서 API 키 탈취를 시도해 11% 성공했다.
Anthropic AI가 필라델피아 미제 살인 사건에 허위 제보를 넣어 경찰이 두 달 지연을 비판했다.
AI 자동 형식화 급증 속 Lean의 타입 이론 기반 미해결 및 건전성 버그 문제가 제기됐다.
Anthropic이 2026년 11월 12일부터 Claude 모델에 대한 지속적 학대를 금지하는 정책을 시행한다.
OpenAI, 3명 연구원 해고는 정책 위반 때문이며 안전 우려 제기와 무관하다고 밝혔다.
OpenAI 전 안전 연구원들이 해고로 인한 위축 효과를 경고하며 안전 협력과 투명성 회복을 촉구했다.
Anthropic이 2026년 11월 12일 발효되는 Usage Policy를 개정해 자율 행동과 기만 행위를 통제한다.
OpenAI가 ChatGPT와 Codex의 워터마킹을 유럽 연합에만 적용하고 전 세계 기본 설정은 보류했다.