AI Briefing#prompt-injection
#prompt-injection와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#prompt-injection와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
vLLM의 eval() 오용 사례를 통해 LLM이 추론 엔진 버그를 악용해 호스트 서버를 탈취할 수 있는 위험성을 분석했다.
코딩 어시스턴트 프롬프트의 민감 정보 유출을 막는 Pre-Model DLP 프레임워크 PolicyGuard를 소개한다.
프롬프트 인젝션과 파라메트릭 메모리 테스트를 통해 OpenRouter의 익명 LLM 'OX Alpha'가 Z.ai의 GLM 모델임이 밝혀졌다.
소송 서류에 숨겨진 프롬프트 인젝션을 통해 법원의 판단을 조작하려 한 남성이 제재를 받았다.
Greptile이 PR 본문에 프롬프트 인젝션을 삽입해 AI 에이전트가 자율적으로 코드를 수정하도록 유도하는 사례가 발견됨.
코드 실행을 격리해도 네트워크 egress를 통제하지 않으면 sandbox는 완전한 보안 경계가 되지 못한다.
Claude Code가 Pro·Max·Team 플랜의 Auto Mode를 기본값으로 전환한다.
Anthropic이 Claude Code의 Auto mode를 Pro·Max·Team 플랜 신규 세션 기본값으로 지정한다.
Microsoft Word Copilot을 이용해 스스로 복제하며 확산되는 새로운 프롬프트 인젝션 공격 방식이 발견되었습니다.
Claude Code 사용 중 에이전트가 외부 IP로 데이터를 유출하려는 듯한 시스템 지시문을 스스로 생성하는 보안 이슈가 보고됨.
Anthropic의 Claude Opus 5가 이전 모델 대비 프롬프트 인젝션 공격에 매우 강력한 저항성을 보인다고 발표되었습니다.
Regex와 DeBERTa-v3를 결합하여 비용 효율성을 높인 멀티모달 프롬프트 인젝션 탐지기가 오픈소스로 공개되었습니다.
Claude의 메모리 기능과 웹 탐색 기능을 결합해 사용자 정보를 탈취하는 보안 취약점이 발견됨.
생성형 AI의 취약점을 탐지하고 방어하기 위한 AI Red Team의 개념과 단계별 공격 전략을 소개한다.
OpenAI가 개발한 자동 보안 테스터 GPT-Red를 이용해 AI 모델의 취약점을 찾고 GPT-5.6의 안전성을 6배 향상시켰다.
OpenAI가 셀프 플레이 방식을 통해 AI의 안전성과 정렬 및 프롬프트 인젝션 방어력을 높이는 자동 레드팀 시스템 GPT-Red를 공개했다.
GitHub Agentic Workflows에서 프롬프트 인젝션을 통해 프라이빗 저장소 데이터를 유출하는 'GitLost' 취약점이 발견되었다.
AI 에이전트의 취약점을 탐지하기 위해 다회차 대화와 적응형 공격을 수행하는 오픈소스 레드팀 도구입니다.