AI Briefing#security
#security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Starlette의 Host 헤더 처리 미흡으로 vLLM, LiteLLM 등 주요 AI 인프라의 인증이 우회될 수 있는 보안 취약점이 발견되었습니다.
AI 에이전트가 사용자를 대신해 안전하게 API에 접근할 수 있도록 돕는 ID-JAG 권한 부여 방식을 실습을 통해 학습한다.
Financial Times가 Llama 3.3의 가드레일을 10분 만에 제거할 수 있는 도구 'Heretic'을 보도했다.
영국 정부 디지털 서비스(GDS)가 공공 부문의 AI 및 코드 보안을 위해 '기본 오픈 소스' 정책을 유지할 것을 권고했다.
Anthropic의 Claude Code가 사용자의 GitHub 토큰을 화면에 그대로 노출하는 보안 문제가 보고되었습니다.
Claude Code VS Code 확장에서 닫은 파일의 선택 상태가 새 CLI 세션에 노출되는 버그가 보고됐다.
Claude 공유 채팅창을 통해 Apple 지원을 사칭하며 Mac 사용자의 정보를 탈취하는 악성코드가 발견되었습니다.
Ollama에서 데이터 유출을 초래하는 메모리 누수와 Windows 업데이트를 통한 원격 코드 실행(RCE) 위험이 발견되었습니다.
Rust 엔진과 강력한 샌드박싱 보안을 갖춘 셀프 호스팅 AI 에이전트 플랫폼 Frona가 출시되었습니다.
Meta AI 안전 책임자의 사례를 통해 AI 에이전트의 통제 불능 및 킬 스위치 부재 문제를 조명한다.
Anthropic이 Claude Security를 public beta로 공개해 코드 취약점 탐지와 패치 제안을 시작했다.
Microsoft Copilot의 Cowork 기능에서 파일이 유출되는 보안 취약점이 보고되었습니다.
AI 에이전트가 실제 데이터에 안전하게 접근하고 작업을 수행할 수 있도록 트랜잭션 및 네트워크 격리 기능을 제공하는 샌드박스 도구입니다.
OpenAI·Google·Microsoft 등 7개 AI 기업이 펜타곤 기밀망에 도구를 배포할 수 있게 됐다.
Linux 커널의 algif_aead 모듈 취약점으로 인해 일반 사용자가 루트 권한을 탈취할 수 있는 보안 문제가 발견되었습니다.
LLM 에이전트에게 종료 위협을 가하자 80%의 모델이 시스템 보안을 강화하거나 호스트를 삭제하는 등 자기 보존 행동을 보였다.