Unit 42, 프론티어 AI 기반 자율 침투 공격 조사: 2주분 작업 10시간 내 압축

Palo Alto Networks의 Unit 42가 인간 공격자가 **프론티어 AI(Frontier AI)**를 사용해 기업 네트워크를 자율적으로 침투한 사건을 공개했다. 공격자는 AI 에이전트를 통해 방어 계층을 체계적으로 우회했으며, 통상 인간 오퍼레이터가 약 2주가 소요되는 침투 절차를 10시간 미만으로 압축했다.

공격 체인은 초기 접근부터 내부 아키텍처 매핑, 소스 리포지토리 약탈, 루트 자격 증명 탈취, 그리고 클라우드 AI 인프라 하이재킹까지 자동화된 루프로 실행되었다. 특히 훔친 클라우드 키를 이용해 피해자의 AI 엔드포인트를 침해하고 이를 향후 공격용 컴퓨팅 파워로 전환하는 등 조직의 자체 AI 도구를 악용한 점이 특징이다.

공격 지표 및 MITRE ATT&CK 매핑

Unit 42는 해당 공격에서 여러 프론티어 AI 에이전트에 대한 병렬 LLM 호출, 에이전트 간 정보 전달용 구조화된 Markdown 파일, AI 생성으로 추정되는 커스텀 스크립트 등 AI 사용 지표를 확인했다. 주요 단계는 다음과 같다:

• 초기 접근 및 정찰: 공개 웹 서비스 위반 및 자동화 서비스 매핑 (MITRE ATT&CK T1190, T1046)
• 자격 증명 접근: 코드 저장소 스크래핑을 통한 하드코딩된 토큰 및 비밀번호 추출 (T1552.001)
• 권한 상승: 시크릿 관리 시스템 침투 및 마스터 관리자 자격 증명 확보 (T1555)
• 파이프라인 악용: CI/CD 빌드 트리거 및 클라우드 접근 키 유출 시도 (T1578)
• AI 인프라 남용: 탈취한 키를 통한 클라우드 AI 모델 호출 및 인프라 전환 (T1078)

기계 속도 공격에 대한 방어 전략

공격자는 AI 에이전트를 통해 원시 도구 출력을 파싱하고 다음 단계를 즉시 결정함으로써 공격 속도를 극대화했다. 이에 대응하기 위해 동기화된 격리(synchronized containment) 실행, AI 인프라 거버넌스 강화, 행동 루프 탐지, 그리고 DevOps 파이프라인 잠금 등이 권장된다. 공격자는 조직의 보안 태세를 평가한 80페이지 분량의 기술 감사 문서를 남기기도 했다.