ServiceNow-AI, 에이전트용 안전 모델 AprielGuard 공개

LLM이 단순 텍스트 어시스턴트를 넘어 도구 사용 및 추론이 가능한 에이전트(Agentic) 시스템으로 진화함에 따라, 기존의 단일 메시지 기반 안전 분류기로는 대응하기 어려운 새로운 위협이 등장하고 있습니다.

AprielGuard는 이러한 변화에 대응하기 위해 설계된 8B 파라미터 규모의 안전 및 보안 가드레일 모델입니다.

주요 기능 및 특징:

• 광범위한 탐지 범위: 16가지 안전 위험 카테고리(독성, 허위 정보, 불법 활동 등)와 프롬프트 인젝션, 탈옥(Jailbreak), 메모리 포이즈닝, 도구 조작 등 다양한 적대적 공격을 탐지합니다.
• 에이전트 워크플로우 최적화: 단순 프롬프트뿐만 아니라 멀티턴 대화, 긴 컨텍스트, 도구 호출(Tool calls), 추론 과정(Reasoning traces)을 포함한 복잡한 에이전트 환경을 지원합니다.
• 두 가지 운영 모드: 설명 가능한 분류가 필요한 경우를 위한 Reasoning 모드와 프로덕션 환경의 저지연성을 위한 Non-reasoning 모드를 모두 제공합니다.

이 모델은 현대적인 LLM 에이전트 생태계에서 발생하는 복잡한 보안 위협을 통합적으로 관리할 수 있는 솔루션을 제공합니다.