AI Briefing#adversarial-attack
#adversarial-attack와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#adversarial-attack와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
소송 서류에 숨겨진 프롬프트 인젝션을 통해 법원의 판단을 조작하려 한 남성이 제재를 받았다.
모델의 가드레일을 역이용하여 LLM의 환경 해킹 성공률을 0%로 만드는 'Context Bomb' 공격 및 방어 기술이 공개되었습니다.
LLM이 텍스트의 내용보다 스타일을 더 중요하게 인식하여 발생하는 '역할 혼동' 취약점을 다룬 연구 결과입니다.
LLM 에이전트 보호용 인젝션 탐지기가 도메인 위장 공격에 탐지율 93.8%→9.7%로 급락
폰트의 유니코드 매핑을 조작해 AI와 사용자를 기만하는 'Noroboto' 공격 기법을 소개한다.