Aikido, 온프레미스 보안용 경량화 오픈웨이트 모델 'Altar' 공개
핵심 내용
Aikido가 민감한 보안 데이터 유출 없이 온프레미스 환경에서 실행 가능한 경량화 오픈웨이트 보안 모델 Altar를 공개했다.
자세히 보기
Aikido가 고객 인프라 내에서 완전한 통제(air-gapped 포함)로 실행 가능한 오픈웨이트 보안 모델 Altar를 공개했다. 기존 폐쇄형 모델이 소스 코드나 내부 문서 등 민감 데이터를 외부로 전송해야 하는 한계를 극복하고, 데이터 레지던시 규제가 엄격한 은행, 병원, 산업용 OT 환경에서도 frontier-grade 보안 방어 기능을 제공한다.
모델 경량화 및 최적화
Altar는 기반 모델인 GLM-5.3을 대상으로 Expert-pruning과 Quantization을 적용해 배포 장벽을 낮췄다. 원본 1.51 TB에서 양자화 488 GB, 최종 프루닝 후 328 GB로 크기를 줄여 총 **78.2%**의 용량 감소를 달성했다. 이는 REAP 방식을 차용해 라우팅된 256개 expert 중 168개만 유지하고, W4A16 양자화 기법을 적용한 결과다.
성능 및 배포 사양
32개 취약점 대상 벤치마크에서 Altar는 원본 대비 평균 recall이 5.2%p 하락했으나, 취약점 커버리지는 92% 수준으로 유지했다. 특히 이미 양자화된 모델 대비 저장 용량을 32.8% 더 줄이면서도 성능 저하를 최소화했다. Altar는 4-H200 GPU 노드와 최신 vLLM 환경에서 원활하게 서빙 가능하며, 모델 가중치는 HuggingFace를 통해 공개된다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.