AI Briefing#prompt-injection
#prompt-injection와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#prompt-injection와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
LLM의 보안 취약점과 사이버 공격 역량을 종합적으로 평가하는 CyberSecEval 2 프레임워크가 공개되었습니다.
LLM이 시스템 프롬프트의 우선순위를 인식하도록 학습시켜 프롬프트 인젝션 공격에 대한 방어력을 높이는 지시 계층 구조를 제안한다.