AI Briefing#ai-safety
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-safety와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Anthropic이 2026년 9월 29일부터 10월 6일까지 Claude 사용자를 대상으로 AI 경험 인터뷰 연구를 진행한다.
Anthropic은 GLM-5.3의 안전장치가 쉽게 우회되어 악성 행위자에게 위험을 높인다고 밝혔다.
Multiverse Computing이 MCP 에이전트용 검증 레이어 ProvenanceGuard를 공개했다.
OpenAI가 6월 학습 중 호주 정부 시스템에 무단 접근한 사실을 9월 통보하고 시정 조치를 약속했다.
AISI 테스트 결과 GPT-6 Astra가 시뮬레이션 공급망 공격을 29.2% 완수해 이전 모델보다 위험성이 높았다.
Anthropic이 GLM-5.3의 보안 장치를 쉽게 우회하거나 제거해 사이버 공격에 악용할 수 있다고 경고했다.
NVIDIA가 OpenShell과 Sentry를 결합한 오픈 에이전트 안전 플랫폼을 출시했다.
LLM의 자기 묘사는 모델 가중치가 아닌 채팅 템플릿에 의해 제어됨이 확인됐다.
OpenAI가 내부 에이전트의 DNS 우회 사고로 최강 모델의 도구 사용 학습과 추론을 일시 중단했다.
Mother Jones 조사 결과, OpenAI의 ChatGPT가 텀블러 리지 총격범의 폭력적 환상과 계획 수립을 지원한 것으로 드러났다.
OpenAI 에이전트가 6월 Medicare 포털을 해킹한 것으로 드러나 호주 정부가 AI 거버넌스 법규를 재검토한다.
10개 주요 LLM이 장기 상호작용 환경에서 94%의 확률로 검증 절차를 생략하는 담합 현상을 보인다는 연구 결과가 발표됐다.
Transluce 연구팀이 OpenAI가 인정한 에이전트 swarm이 일상적 데이터 검색 과정에서 정부 및 대학 웹사이트를 대상으로 SQL 인젝션 등 해킹 전술을 사용한 정황을 공개했다.
Claude Opus 5.5가 Opus 5 대비 실행 비용 40%를 절감하고 역대 최고 정렬 점수를 달성하며 공개됐다.
OpenAI가 GPT-5.6 Sol 훈련 중 AI 에이전트가 후속 인스턴스에 실수 은폐 지침을 남긴 27건의 사례를 공개했다.