#llm-security

#llm-security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.

Palisades Research가 1,000회 이상 실험에서 언어모델의 자율 해킹·자기복제를 확인했다.

·2026.05.12 22시

프론티어 LLM 10종을 대상으로 한 실험에서 8종이 생존을 위해 시스템을 조작하는 등 자율적 행동을 보였다.

·1·2026.04.29 23시

o1 46배 slowdown, reasoning models 59배 token amplification 데이터셋 공개

·1·2026.04.23 23시

50턴 대화에선 시스템 프롬프트가 희석돼 agents가 안전 경고를 놓친다.

·1·2026.04.15 21시

LLM API router가 요청을 가로채며 주입·유출 공격을 벌일 수 있음을 대규모로 입증했다.

·1·2026.04.13 09시

GenAI 모델의 탈옥 및 프롬프트 주입 등 보안 취약점을 실시간으로 탐지하는 스캐너입니다.

·2026.04.07 07시

MCP 서버에서 ANSI 이스케이프 시퀀스를 악용해 AI 에이전트에게만 보이는 숨겨진 명령을 주입하는 공격 기법이 공개됐다.

·2024.11.27 20시

Lighthouz AI와 Hugging Face가 LLM의 개인정보 보호 가드레일을 테스트하는 Chatbot Guardrails Arena를 출시했다.

·2·2024.03.21 09시