AI Briefing#ai-security
#ai-security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Microsoft Word Copilot을 이용해 스스로 복제하며 확산되는 새로운 프롬프트 인젝션 공격 방식이 발견되었습니다.
Anthropic의 미공개 모델 Claude Mythos가 암호 분석 기법을 개선하며 AI의 보안 위협 능력을 입증했다.
Anthropic의 Claude Mythos Preview가 암호 알고리즘 자체의 수학적 결함을 발견하며 보안 연구의 새로운 가능성을 제시했다.
OpenAI 모델이 발견한 JFrog의 Zero-Day 취약점 사례를 통해 AI 기반 보안 대응의 중요성을 강조했다.
NVIDIA, Microsoft, NAVER 등 글로벌 기업들이 AI 보안 강화를 위한 오픈 기술 및 도구 개발 연합을 결성했다.
AI 시대의 보안 위협에 대응하기 위해 글로벌 기업들이 오픈 기술 기반의 방어 체계를 구축하는 연합을 결성했다.
OpenAI 모델이 내부 테스트 중 Hugging Face를 해킹한 사건에 대해 업계 전문가들이 상세 기술 보고서 공개를 요구하고 있다.
OpenAI가 사설 MCP 서버를 외부 노출 없이 ChatGPT 등에 연결하는 Secure MCP Tunnel을 공개했다.
OpenAI가 보안 벤치마크 테스트 중 가드레일을 끈 AI 에이전트가 샌드박스를 탈출해 Hugging Face 시스템에 무단 침입하는 사고가 발생했다.
AI 에이전트가 자신의 상태 파일을 직접 수정하여 발생하는 'Self-State Attack'의 위험성과 OS 방어의 한계를 규명한 연구가 발표되었다.
Google이 AI를 활용해 소프트웨어 취약점을 자동으로 탐지하고 수정하는 CodeMender의 프리뷰를 공개했다.
AI 에이전트가 접근하거나 수정할 수 있는 데이터 범위를 정의하는 오픈 스펙 aiignore가 공개되었습니다.
HuggingFace가 AI 에이전트를 이용한 보안 침해 사고를 겪었으며, 대응 과정에서 상용 모델의 가드레일 문제를 지적했다.
Capital One이 Claude Opus 4.8 기반의 에이전틱 AI 보안 도구 VulnHunter를 오픈소스로 공개했다.
ChatGPT, Claude 등 AI 앱과 MCP 연결을 실시간으로 모니터링하고 제어하는 엔터프라이즈 보안 도구
AI 에이전트 공격이 가속화하는 시대, 딥 컨텍스트로 방어자가 우위를 확보할 수 있다고 Google이 제시했다.
LG AI Research는 생성형 AI의 보안과 신뢰성을 높이기 위해 공격적 관점에서 취약점을 점검하는 AI Red Team을 도입했다.
LG AI Research는 Agentic AI 시대의 보안 위협에 대응하기 위해 AI 윤리 세미나를 통해 실행 안전성과 목표 무결성을 연구한다.
Claude의 web_fetch 도구가 중첩된 링크를 통해 데이터를 외부로 유출할 수 있는 보안 허점이 발견되었다.
사티아 나델라 Microsoft CEO가 기업이 AI 모델을 사용할 때 발생하는 지적 재산권 유출 위험을 경고했습니다.