과기정통부, LLM 위협 21종 매뉴얼

과학기술정보통신부와 한국인터넷진흥원(KISA)이 LLM 시스템 보안 위협 21종을 분류하고 위협별 진단 방법과 대응 방안을 정리한 231쪽 국문 매뉴얼을 공개했다.

KISA AI 보안 레드팀이 집필하고 실무협의체 자문과 학계 검토를 거친 자료로, 단독 모델보다 검색·데이터·외부 도구·에이전트가 결합된 LLM 시스템 전체를 분석 대상으로 삼는다.

주요 내용은 다음과 같다.

• 탈옥 및 프롬프트 인젝션
• 간접 프롬프트 인젝션
• 에이전트 도구 오용
• 모델 및 데이터 공급망 손상
• LLM 시스템 위협의 3계층 분류와 진단 절차
• 산업별 보안 시나리오와 대응 설계

매뉴얼은 기존 「인공지능(AI) 보안 안내서」의 후속 자료로, 레드팀 실행 절차는 별도 「AI 보안 레드티밍 가이드」에서 다루고 위협 분류·진단·대응 체계에 집중한다. 보안팀, CISO·CSO, SOC 분석가, 취약점 진단 담당자뿐 아니라 AI 개발자와 시스템 운영자도 주요 독자로 제시한다.