AI Briefing#instruction-hierarchy
#instruction-hierarchy와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#instruction-hierarchy와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
상충하는 지시 사이에서 우선순위를 올바르게 판단하도록 돕는 강화 학습 데이터셋 IH-Challenge를 공개했다.
LLM이 시스템 프롬프트의 우선순위를 인식하도록 학습시켜 프롬프트 인젝션 공격에 대한 방어력을 높이는 지시 계층 구조를 제안한다.