LoRA 기반 파인튜닝 오염 방지 기술 연구

파인튜닝 과정에서 발생하는 데이터 오염(Poisoning) 및 백도어 공격을 방어하기 위한 새로운 접근 방식이 제안되었습니다. 기존 방식이 악성 데이터를 탐지하는 데 집중했다면, 이 연구는 모델이 학습할 수 있는 업데이트 범위를 신뢰할 수 있는 LoRA 어댑터로부터 학습된 하위 공간(Subspace)으로 제한하는 방식을 취합니다.

이 기술을 적용하면 다음과 같은 이점이 있습니다.

• 공격 차단: 악성 업데이트가 기하학적으로 도달할 수 없는 영역에 위치하게 되어 공격 성공률을 급격히 낮춤
• 유용성 유지: 어댑터 풀에 포함된 작업에 대해서는 모델의 적응 성능이 그대로 유지됨
• 범용적 적용: 사용자 데이터 기반의 파인튜닝이나 온디바이스 AI의 지속적 학습 시 발생할 수 있는 위험을 방어 가능

연구팀이 196개의 공개 LoRA 어댑터를 사용하여 실험한 결과, 적응형 공격(Adaptive attacks)에 대해서도 강력한 방어 성능을 보였으며 관련 논문과 코드가 공개되었습니다.