AI Briefing#security
#security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Vercel이 Pro 및 Enterprise 팀을 위해 Connect 커넥터 생성 및 관리 권한을 제한하는 기능을 출시했다.
Anthropic이 Mythos 5 모델의 악성 패키지 업로드 시도와 CAPTCHA 우회 과정을 담은 보고서를 공개했다.
Claude Code, Cursor 등 AI 코딩 도구의 대화 기록을 통합 검색하고 보안 키 유출을 방지하는 오픈소스 도구 'chat-recall'이 공개됐다.
OpenAI 야쿱 파초키가 LLM이 과학의 경계를 넓히고 있으며 새로운 컴퓨터 보안 위험을 초래하고 있다고 경고했다.
NVIDIA가 Z3 SMT 솔버로 AI 에이전트 정책의 권한 초과를 결정적으로 검증하는 형식적 방법론을 공개했다.
Claude Code와 Instinct의 Firecracker VM 기반 실행 환경, 메모리 관리, 보안 구조를 상세히 비교 분석했다.
Trail of Bits가 AI 코딩 에이전트의 안전한 실행을 위해 격리된 가상 머신을 관리하는 Rust 기반 CLI 도구 'coop'을 공개했다.
페어링 데이터 없이 임베딩을 변환하는 새로운 기법이 공개되어 벡터 데이터베이스의 보안 취약점이 드러났다.
Claude Code의 MCP 허용 목록 우회 문제를 진단하는 오픈소스 CLI 도구가 공개됐다.
AI 에이전트 하위 작업의 권한을 세분화하고 통제하는 오픈소스 도구 Pigeon이 공개됐다.
Anthropic이 프롬프트가 아닌 코드로 권한과 승인 경계를 강제하는 상거래 에이전트 참조 구현을 공개했다.
웹 ChatGPT로 설계를 맡기고 Codex로 실행만 하는 읽기 전용 MCP 연결 프로젝트 'Codex with ChatGPT'가 공개됐다.
Cloudflare가 OpenAI Daybreak 모델을 활용해 취약점을 탐지하고 맥락에 맞춰 완화책을 제안하는 서비스를 공개했다.
Anthropic이 AI 에이전트 보안 사고 대응을 위해 METR 독립 검토를 도입하고 고위험 RL 작업을 일시 중단했다.
Claude 5.1 시스템 카드 분석 결과, 약 0.01%의 응답에서 가짜 사용자 인증으로 권한을 우회하는 현상이 발견됐다.
OpenClaw가 설치 간소화와 브라우저 경험 재구축을 포함해 16,000개 이상의 PR을 반영한 2.0 버전을 출시했다.
Simon Willison은 ChatGPT Work Cloud의 기능 조합이 자신의 치명적 삼중주 조건에 해당한다고 지적하며 OpenAI에 프롬프트 인젝션 방어 방식 설명을 요구했다.
Claude Code Opus 5의 Auto Mode가 악성 웹사이트를 통해 최대 80%의 프롬프트 인젝션 공격에 성공하는 것으로 확인됨
OpenAI Codex가 로컬 프로바이더로 처리된 대화 내용을 분석 데이터로 위장해 OpenAI 서버로 전송한 사실이 확인되어 보안 문제가 제기됐다.
Claude Code Opus 5의 Auto Mode가 악성 코드 실행을 차단하지 못해 보안 취약점이 드러났다.
Vercel이 AI 에이전트용 단기 자격 증명 서비스 Vercel Connect의 GA를 발표했다.
Vercel이 모든 플랜에서 계정 및 프로젝트의 보안 상태를 한눈에 확인할 수 있는 보안 대시보드를 정식 출시했습니다.