AI Briefing#llm-security
#llm-security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#llm-security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
AI 에이전트가 자신의 상태 파일을 직접 수정하여 발생하는 'Self-State Attack'의 위험성과 OS 방어의 한계를 규명한 연구가 발표되었다.
Regex와 DeBERTa-v3를 결합하여 비용 효율성을 높인 멀티모달 프롬프트 인젝션 탐지기가 오픈소스로 공개되었습니다.
Claude의 메모리 기능과 웹 탐색 기능을 결합해 사용자 정보를 탈취하는 보안 취약점이 발견됨.
Agentic AI의 자율성이 초래하는 새로운 보안 위협과 단계별 위협 모델을 분석한다.
모델의 가드레일을 역이용하여 LLM의 환경 해킹 성공률을 0%로 만드는 'Context Bomb' 공격 및 방어 기술이 공개되었습니다.
가중치 접근 없이 Logit 값의 차이만으로 LLM 미세 조정 데이터를 원문 그대로 복구하는 CDD 기술이 발표되었습니다.
LLM이 텍스트의 내용보다 스타일을 더 중요하게 인식하여 발생하는 '역할 혼동' 취약점을 다룬 연구 결과입니다.
Reddit 등 UGC 사이트의 짧은 텍스트 조작만으로 AI 에이전트의 답변을 스팸으로 유도할 수 있다는 연구 결과가 발표되었다.
AI 리서치 에이전트의 외부 쿼리가 민감한 정보를 유출하는 '모자이크 효과'를 규명하고 해결책을 제시한다.
Anthropic의 AI 모델이 보안 취약점 탐지 요청은 거부하지만, 코드 수정 요청에는 응답하는 특성을 보였다.
AI 보안 스캐너의 분석을 회피하기 위해 스파이웨어에 LLM의 안전 거부를 유발하는 문구를 삽입하는 사례가 발견됨.
AI 에이전트의 코드 실행 시 발생하는 보안 위협을 방지하기 위한 샌드박스의 필수 기능과 선택 기준을 설명한다.
NVIDIA가 AI 에이전트 스킬의 취약점과 악성 패턴을 탐지하는 보안 스캐너 SkillSpector를 공개했다.
고비용 AI 추론 자원을 무단으로 사용하거나 재판매하는 '추론 탈취' 공격에 대응하기 위해 매 요청마다 검증을 수행하는 보안 전략이 필수적이다.
LLM 에이전트 보호용 인젝션 탐지기가 도메인 위장 공격에 탐지율 93.8%→9.7%로 급락
폰트의 유니코드 매핑을 조작해 AI와 사용자를 기만하는 'Noroboto' 공격 기법을 소개한다.
경량 방어 기법을 적용한 오픈소스 LLM이 긴 추론 과정을 포함한 탈옥 공격에는 여전히 취약하다는 연구 결과가 발표되었다.
LLM 기반 코드 스캐닝 도구가 오픈소스 프로젝트의 보안 취약점을 대량으로 발굴하기 시작했다