GKE에서 AI 공급망 보안 강화하기: 자동화된 AI BOM을 위한 k8s-aibom 소개

개발자가 별도의 등록 없이 배포한 'Shadow AI' 워크로드는 기존 보안 스캐너를 우회할 위험이 있습니다. 이를 해결하기 위해 Google은 k8s-aibom을 오픈소스로 공개했습니다.

k8s-aibom은 권한이 제한된(unprivileged) 가벼운 Kubernetes 컨트롤러로, 클러스터 API와 컨테이너 환경을 지속적으로 모니터링합니다. 이를 통해 vLLM, Triton과 같은 AI 런타임을 자동으로 탐지하고 표준 CycloneDX ML-BOM(Machine Learning Bill of Materials)을 생성합니다.

이 도구의 주요 특징은 다음과 같습니다:

• 제로 프릭션(Zero Friction): 사이드카(sidecar) 주입이나 커널 수준의 eBPF 모듈, 특권(privileged) 권한이 필요 없어 클러스터 안정성을 해치지 않습니다.
• 실시간 가시성: 빌드 시점이 아닌, 실제 런타임 실행 상태를 기반으로 BOM을 생성하여 현재 무엇이 실행 중인지 정확히 파악합니다.
• GitOps 최적화: 결정론적(deterministic) 특성을 가져 동일한 입력에 대해 동일한 BOM을 생성하므로, GitOps 워크플로우 내에서 변경 사항 감지에 용이합니다.

탐지 파이프라인 단계:

1. 클러스터 워크로드 스크레이핑: KServe, Deployment, StatefulSet 등을 모니터링합니다.
2. AI 스택 식별: 이미지, 환경 변수, 명령줄 인수를 분석하여 vLLM, LangChain, Milvus 등 AI 관련 스택을 식별합니다.
3. 표준 매니페스트 생성: 식별된 아티팩트를 CycloneDX 1.6 ML-BOM 문서로 컴파일합니다.
4. 싱크(Sink)로 내보내기: 생성된 BOM을 클러스터 내 Custom Resource에 첨부하거나 Google Cloud Storage 등으로 전송합니다.