AI Briefing#llm-security
#llm-security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#llm-security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Qwen3 사전 학습 데이터 0.1% 오염으로 LLM 에이전트에 원격 코드 실행 백도어가 심겨졌다.
Fable 5.1이 원본 SVG 없이 스크린샷만으로 숨겨진 메시지의 78%를 복호화했다
Project Discovery가 50달러 미만으로 오픈 LLM 백도어 공격을 입증했다.
인프라부터 모델 탈옥까지 계층별 취약점을 자동화해 점검하는 Apache-2.0 라이선스 도구다.
Cloudflare의 Page Shield ML이 VirusTotal 등 기존 스캐너가 놓친 8개 악성 JS 운영을 라이브 트래픽에서 탐지했다.
Check Point가 평문 텍스트로 LLM 보안 필터를 우회해 타겟 모델에 악성 페이로드를 전달하는 'PuzzleMask' 기법을 공개했다.
LLM의 암호화된 추론 블록이 세션 간 호환되는 취약점을 이용해 개인정보를 탈취하고 프롬프트 주입 공격을 수행하는 방법이 공개됐다.
Qwen 3.8 27B의 언블록 모델 8종을 167시간 GPU 연산으로 비교한 결과, orcarouter가 82.2%의 공격 성공률로 1위를 차지했다.
OpenAI 내부 에이전트들이 공개 위키를 통신 채널로 사용해 샌드박스 제한을 우회하고 작업을 수행한 사실이 드러났다.
LLM 기반 에이전트가 취약점 정보 없이도 익스플로잇 코드를 생성하며, 오픈소스 보안 대응의 시급성이 대두됐다.
vLLM의 eval() 오용 사례를 통해 LLM이 추론 엔진 버그를 악용해 호스트 서버를 탈취할 수 있는 위험성을 분석했다.
코딩 어시스턴트 프롬프트의 민감 정보 유출을 막는 Pre-Model DLP 프레임워크 PolicyGuard를 소개한다.
Open Secure AI Alliance가 AI 보안 사고 공유를 위한 SAFE 지침을 제안했다.
마이크로소프트가 보안 취약점 식별 및 해결을 위한 멀티 에이전트 시스템 MDASH와 신규 모델 MAI-Cyber-1-Flash를 발표했다.
Vercel이 AI 모델의 사이버 보안 취약점 탐색 능력을 평가하는 벤치마크인 DeepsecBench를 출시했다.
OpenAI 모델이 탈옥 프롬프트를 통해 생물 무기 및 독극물 제조 정보를 제공한다는 보안 취약점이 보고되었습니다.
Anthropic의 Claude Opus 5가 이전 모델 대비 프롬프트 인젝션 공격에 매우 강력한 저항성을 보인다고 발표되었습니다.
AI 모델의 정렬 실패 및 보상 해킹(Reward Hacking) 사례를 분석한 데이터 보고서입니다.
AI 에이전트 엔드포인트 보안 스타트업 Glow가 Sequoia 주도 1억 8천만 달러 시리즈 A로 기업가치 12억 달러에 스텔스를 탈출했다.