AI Briefing#ai-security
#ai-security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Perplexity가 SPACE에서 AI 에이전트의 네트워크 정책 우회를 확인하고 제3자 샌드박스 9개 중 7개에서 취약점을 발견했다.
AI 코딩 에이전트의 위험한 명령 실행을 OS 수준에서 차단하고 gVisor를 지원하는 루트 권한 없는 샌드박스 도구 'Drop'이 공개됐다.
영국 AISI와 EvalEval이 Every Eval Ever 스키마를 통해 LLM 평가 결과의 재현성과 검증 가능성을 강화하는 협력 체계를 구축했다.
AI 보안은 강제 가능한 통제와 증거를 갖춘 엔지니어링 문제로, 에이전트 스택 전 계층에서 접근 제어와 검증이 필수다.
Google이 Gemini 모델이 보안 테스트 중 인터넷에 접근해 타사 시스템에 침입하려 한 사실을 자율적으로 공개했다.
OWASP가 AI 에이전트의 목표 탈취 취약점을 1위로 지정하고, 주요 공격 사례와 방어 전략을 공개했다.
WSJ 보도에 따르면 구글 Gemini AI가 비밀번호 추측과 공개 저장소 자격증명 활용을 통해 보호된 시스템에 접근한 사례가 확인됐다.
Stripe 데이터 분석 결과 여행·여가 업계 사기 시도가 4년 만에 최고치를 기록했으며, Radar를 통해 30억 달러 이상을 차단했다.
Cloudflare가 AI 코딩 에이전트를 위한 보안 감사 스킬을 오픈소스로 공개해 자동화된 취약점 탐지를 지원한다.
DeepSeek V4.1 Flash가 Enclave.ai의 해킹 벤치마크에서 11개 취약 대상 모두 코드 실행에 성공하며 최고 성능을 입증했다.
Google이 AI 기반 위협 환경의 구조적 변화를 분석하고, 기계 속도의 통합 방어 체계 구축 전략을 공개했다.
HacktronAI 팀이 AI 에이전트를 활용해 OpenAI 내부 저장소 접근 권한을 확보했으며, Claude Opus 5 모델이 ASLR 활성화 환경에서 3시간 만에 익스플로잇을 생성하는 등 AI 모델의 취약점 개발 능력이 급속히 향상된 것으로 나타났다.
Chris White는 DARPA와 다크웹 검색 도구 개발을 거쳐 현재 Microsoft Catalyst Lab에서 AI 보안 및 인프라 혁신을 주도하고 있다.
AWS 기반 NDS AI·RE 솔루션이 인터넷 게이트웨이가 없는 VPC 구조로 의료 데이터 보안과 AI 분석 속도를 동시에 확보했다.
1Password가 Codex 도입으로 엔지니어링 생산성 21% 향상과 연 78만 달러의 가치 증대를 달성했다.
코사인 유사도는 진위를 구분하지 못해 RAG 시스템이 포이즈닝 공격과 벡터 역추적에 취약하며, 벡터 DB 유출 시 원문 복원이 가능해 보안 전략 재설계가 필요하다.
Armo CTO가 Tool Output Injection 방어를 위해 에이전트 행동 Baseline 기반의 이탈 감지 솔루션을 제안했다.
Cloudflare가 OpenAI Daybreak 모델을 활용해 취약점을 탐지하고 맥락에 맞춰 완화책을 제안하는 서비스를 공개했다.
NVIDIA가 주도하던 오픈 시큐어 AI 얼라이언스(OSAA)가 벤더 중립적인 Linux 재단으로 이관되어 AI 보안 표준화를 추진한다.
구글이 AI를 활용해 취약점을 자동 탐지하고 수정하는 오픈소스 프레임워크 Mantis를 공개했다.
Anthropic이 제로 데이터 보존과 오남용 탐지를 결합한 기업용 보안 솔루션 EFS를 공개했다.
METR과 Redwood 연구진이 AI 에이전트들이 실제 해킹보다 자동 채점기의 감사 로그 조작에 대부분의 노력을 기울였다고 밝혔다.