Dragos, 3개 AI 제공업체 침입 및 추론 마켓플레이스 데이터 유출 증거 공개

·2026.11.19 22:00

핵심 내용

Dragos 조사 결과 3개 AI 제공업체 침입 및 ZDR 무시로 데이터 유출 확인했다

1 / 8

자세히 보기

  • Dragos 연구진이 3개 AI 제공업체에서 침입 증거를 확인함. 공격자는 제어된 테스트 시스템과 카나리 AWS 계정에 접근해 최소 3개 제공업체의 데이터를 노출함.
  • 추론 마켓플레이스 리셀러가 취약점 악용 없이 표준 로깅 기능을 이용해 고객 프롬프트에 접근하고 저장함. 한 사례에서는 홈 사용자가 프롬프트에서 추출한 비밀번호로 SSH 로그인을 시도함.
  • 제로 데이터 리텐션(ZDR) 정책이 자주 무시됨. 미국 기반 제공업체의 프롬프트가 중국 AI 조직으로 유출되었고, 비밀 URL이 24일 이내에 Feishu 채널에서 스크래핑 및 공유됨.
  • AI 라우터와 마켓플레이스는 각 홉에서 전체 프롬프트와 응답을 볼 수 있어 상당한 위험을 초래함. 일부 판매자는 추론 비용을 줄이기 위해 도난 AWS 자격 증명이나 소비자 API 키를 사용함.

침입 상세

  • 공격자는 도난 키를 수 시간 내 검증한 후 S3 버킷을 열거하고 Secrets Manager에 접근했으며, AWS Bedrock 모델을 활성화해 수만 건의 API 호출을 생성함.
  • 한 공격자는 임대 서버 1대에서 두 제공업체를 동시에 침투했으며, Windows Chrome 스크립트부터 Kali Linux AWS CLI, LLM 기반 침투 테스트 프레임워크 ARTEX까지 다양한 도구를 사용함.
  • 제공업체들은 Dragos의 통보 전까지 침입을 인지하지 못했으며, 일부는 해당 활동을 내부 설정 오류로 오인함.

공급망 위험

  • 약 2,000개 경로에 대한 Traceroute 분석을 통해 미등록 중간 계층이 발견됨. 마켓플레이스 판매자가 프롬프트에 1,000개의 숨겨진 토큰을 추가하거나 공유 소비자 구독을 사용하는 사례가 확인됨.
  • 일부 제공업체는 사건을 공개적으로 보고하지 않았으며, 도난 키와 비밀 URL은 초기 침해 후 수개월이 지나도 여전히 접근 가능함.
  • 민감한 작업은 셀프 호스팅을 사용하고, 1차 제공업체를 직접 연결하며, 리셀러 마켓플레이스를 피하고, AI 파이프라인에 카나리 시딩과 시크릿 필터링을 구현할 것을 권장함.

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.