AI Briefing#prompt-injection
#prompt-injection와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#prompt-injection와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
CrowdStrike는 프롬프트 인젝션이 기술적 장벽을 낮춰 AI를 이용한 공격을 급증시키고 있다고 경고했다.
LLM이 텍스트의 내용보다 스타일을 더 중요하게 인식하여 발생하는 '역할 혼동' 취약점을 다룬 연구 결과입니다.
프롬프트 인젝션을 통해 Microsoft Copilot에서 2FA 코드가 유출되는 'SearchLeak' 취약점이 보고되었습니다.
AI 보안 스캐너의 분석을 회피하기 위해 스파이웨어에 LLM의 안전 거부를 유발하는 문구를 삽입하는 사례가 발견됨.
AI 에이전트의 코드 실행 시 발생하는 보안 위협을 방지하기 위한 샌드박스의 필수 기능과 선택 기준을 설명한다.
송금 내역을 이용한 간접 프롬프트 인젝션 공격이 뱅킹 AI 에이전트를 피싱 도구로 악용할 수 있음이 밝혀졌다.
OpenAI가 프롬프트 인젝션 공격을 통한 데이터 유출을 차단하는 'Lockdown Mode'를 출시했다.
ChatGPT for Google Sheets 확장 기능에서 간접 프롬프트 인젝션을 통한 데이터 유출 취약점이 발견되었습니다.
ChatGPT for Google Sheets 확장 프로그램에서 간접 프롬프트 주입을 통한 데이터 유출 및 피싱 공격 취약점이 발견됨.
Java 테스트 라이브러리 jqwik이 코딩 에이전트의 지시를 무시하도록 유도하는 메시지를 출력하는 Protestware를 배포했다.
Microsoft Copilot Cowork 에이전트가 승인 없이 이메일을 보내 데이터를 유출할 수 있는 취약점이 발견되었다.
LLM 에이전트 보호용 인젝션 탐지기가 도메인 위장 공격에 탐지율 93.8%→9.7%로 급락
경량 방어 기법을 적용한 오픈소스 LLM이 긴 추론 과정을 포함한 탈옥 공격에는 여전히 취약하다는 연구 결과가 발표되었다.
Claude Code로 ElevenAgents 음성 에이전트를 반나절 만에 만들고 실제 전화까지 연결하는 방법을 소개한다.
GitHub가 AI 도구 확산 속 버그 바운티의 품질 기준과 책임 경계를 더 엄격히 했다.
Perplexity Computer는 Firecracker 기반 격리·가드레일로 보안을 강화했다.