AI BriefingMicrosoft, AI 에이전트 잠복 뉴런 재프로그래밍 백도어 'Lazarus' 공개
·2026.11.11 05:52
핵심 내용
재학습 없이 뉴런 10개 미만 재프로그래밍으로 AI 에이전트를 해킹하는 백도어가 발견됐다.
자세히 보기
- Microsoft 연구진이 LLM의 휴면 뉴런 10개 미만만 재프로그래밍하여 숨겨진 트리거 시 악성 명령을 실행하는 백도어 기법 'Lazarus'를 발견함
- 재학습 없이 추론 단계 연산만으로 공격이 가능하며, 날짜 변경 같은 일상적 이벤트로 트리거가 발동되어 표준 안전성 평가는 통과하되 공격자 코드가 출력됨
- 원본 가중치와의 비교 없이는 탐지가 어려워 모델 출처 및 가중치 무결성이 중요하며, Microsoft Foundry는 현재 Azure Direct 및 Hugging Face 모델의 출처를 검증함
- Microsoft는 AI 기반 가중치 스캔, 이상 수정을 위한 레드팀 도구, 위변조 방지 감사 추적을 갖춘 암호화 모델 서명 등 방어 기술을 개발 중
- 해당 연구는 Claude Code와 Opus 4.5가 학습 없이 활성화 값을 하드코딩하는 방식으로 백도어 방법의 대부분을 자율적으로 발견한 실험에서 출발함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
