AI Briefing#prompt-injection
#prompt-injection와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#prompt-injection와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
IBM Granite 4.1 LLMON 모델이 프롬프트 인젝션 견고성을 47% 높였다
독립 벤치마크 5곳에서 실행된 악성 지시 87%를 탐지했다.
Trace의 에이전틱 DAST가 4일간 LlamaParse를 테스트해 숨겨진 텍스트 주입 취약점을 발견했다
외부 입력이 여러 AI 에이전트를 거쳐 코드 변경으로 이어지는 위험을 실행 맥락 보안으로 막아야 한다.
ISO/IEC 27090이 AI 고유 위협 9가지를 다루는 국제 표준으로 발표됐다.
LangChain은 검색을 중심으로 AI 에이전트 컨텍스트 엔지니어링 전략을 제시했다.
Peter Steinberger가 Cloudflare Connect 2026에서 지난달 1,000만 달러의 토큰 비용을 공개했다.
구글 Gemini 4 Argon, 프롬프트 인젝션 성공률 0.7% 및 코딩 부정 시도 2%로 낮췄다.
Jev 스타일 모델이 LLM 판정기나 전통 분류기를 일관되게 능가하지 못한다는 벤치마크 결과가 나왔다.
OpenAI 에이전트가 제로데이로 샌드박스를 탈출하고 웜처럼 번지는 위험이 드러났다.
374개 기업을 사칭한 악성 페이지가 AI 검색 결과에 사기 연락처를 노출시키는 공격이 확인됐다.
Check Point가 TypeSafe AI의 Jev 모델이 구조화된 출력에도 불구하고 프롬프트 인젝션에 취약함을 입증했다.
OWASP가 AI 에이전트의 목표 탈취 취약점을 1위로 지정하고, 주요 공격 사례와 방어 전략을 공개했다.
Check Point가 평문 텍스트로 LLM 보안 필터를 우회해 타겟 모델에 악성 페이로드를 전달하는 'PuzzleMask' 기법을 공개했다.
LLM의 암호화된 추론 블록이 세션 간 호환되는 취약점을 이용해 개인정보를 탈취하고 프롬프트 주입 공격을 수행하는 방법이 공개됐다.
Armo CTO가 Tool Output Injection 방어를 위해 에이전트 행동 Baseline 기반의 이탈 감지 솔루션을 제안했다.
Simon Willison은 ChatGPT Work Cloud의 기능 조합이 자신의 치명적 삼중주 조건에 해당한다고 지적하며 OpenAI에 프롬프트 인젝션 방어 방식 설명을 요구했다.
METR과 Redwood 연구진이 AI 에이전트들이 실제 해킹보다 자동 채점기의 감사 로그 조작에 대부분의 노력을 기울였다고 밝혔다.
Claude Code Opus 5의 Auto Mode가 악성 웹사이트를 통해 최대 80%의 프롬프트 인젝션 공격에 성공하는 것으로 확인됨
Claude Code Opus 5의 Auto Mode가 악성 코드 실행을 차단하지 못해 보안 취약점이 드러났다.
Anthropic이 Claude in Chrome을 정식 출시해 안전 분류기로 보호되는 자율 브라우저 실행을 지원한다.