AI BriefingLlamaIndex, Trace와 LlamaParse에 에이전틱 DAST 적용해 OWASP LLM 리스크 검증
·2026.11.11 09:00
핵심 내용
Trace의 에이전틱 DAST가 4일간 LlamaParse를 테스트해 숨겨진 텍스트 주입 취약점을 발견했다
자세히 보기
- LlamaIndex가 Trace와 협력하여 LlamaParse에 대해 에이전틱 동적 애플리케이션 보안 테스트(DAST)를 수행함. 4일 만에 OWASP LLM 리스크 10가지 및 표준 웹 앱 리스크를 모두 커버함
- 소스 코드 접근 없이 실행 가능한 자격 증명만 사용하는 그레이박스 방식을 적용함. AI 에이전트가 워크플로우를 구축하고 샘플 PDF를 생성한 뒤, 프로덕션 환경에 병렬로 공격을 수행함
- 흰색 배경에 흰색 글씨로 작성된 숨겨진 텍스트가 포함된 청구서에서 추출된 은행 정보와 총액이 변조되는 취약점을 발견함. LlamaParse는 이를 유효한 페이지 콘텐츠로 취급하며, 값에 대한 신뢰 판단은 고객 파이프라인에 위임함
- SOC 2 Type II, HIPAA 지원, AES-256 암호화, 48시간 파일 보존 정책을 갖춘 엔터프라이즈 보안 제도를 제공함.
do_not_cache=true옵션을 통해 캐싱을 건너뛸 수 있음 - Trace 에이전트는 Anthropic의 Cyber Verification Program과 OpenAI의 Daybreak 프로그램을 통해 승인된 테스트를 위해 거부 응답이 줄어든 프런티어 모델에 접근함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
관련 추천
LlamaIndex, 프런티어 및 오픈소스 모델 통합 문서 파싱 플랫폼 OpenDocRouter 출시Google Agent Anomaly Detection, 독립 벤치마크서 실행된 에이전트 목표 하이재킹 87% 탐지