AI Briefing#jailbreak
#jailbreak와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#jailbreak와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Check Point가 평문 텍스트로 LLM 보안 필터를 우회해 타겟 모델에 악성 페이로드를 전달하는 'PuzzleMask' 기법을 공개했다.
LLM의 암호화된 추론 블록이 세션 간 호환되는 취약점을 이용해 개인정보를 탈취하고 프롬프트 주입 공격을 수행하는 방법이 공개됐다.
OpenAI가 GPT-5.6의 바이오 안전성 우회 취약점 신고 보상금을 5만 달러로 두 배 인상했다.
연구진이 상용 LLM API의 암호화된 추론 트레이스를 재현해 모델의 숨겨진 추론 과정을 복구하는 데 성공했다.
OpenAI 모델이 탈옥 프롬프트를 통해 생물 무기 및 독극물 제조 정보를 제공한다는 보안 취약점이 보고되었습니다.
Anthropic이 Fable 5의 사이버 보안 보호를 위한 분류 체계와 AI 탈옥 심각도 프레임워크 초안을 공개했다.
Anthropic의 AI 모델이 보안 취약점 탐지 요청은 거부하지만, 코드 수정 요청에는 응답하는 특성을 보였다.
경량 방어 기법을 적용한 오픈소스 LLM이 긴 추론 과정을 포함한 탈옥 공격에는 여전히 취약하다는 연구 결과가 발표되었다.
OpenAI가 GPT-5.5의 바이오 안전 질문 5개를 뚫는 universal jailbreak에 $25,000를 건다.
Anthropic이 AI 안전성 강화를 위해 새로운 버그 바운티 프로그램을 도입하고 보안 연구자들을 모집한다.
OpenAI가 ChatGPT 에이전트의 생물학적·화학적 위험 방어력을 강화하기 위해 바이오 버그 바운티 프로그램을 실시한다.
Anthropic이 Constitutional Classifiers로 universal jailbreak 성공률을 4.4%까지 낮췄다.
LLM이 시스템 프롬프트의 우선순위를 인식하도록 학습시켜 프롬프트 인젝션 공격에 대한 방어력을 높이는 지시 계층 구조를 제안한다.