LG AI Research 349

LG AI Research는 세계적인 AI 컨퍼런스인 ICML 2023에 참가하여 생성형 AI 모델의 데이터 프라이버시 문제를 해결하기 위한 연구 결과를 발표했다.

특히 Unlearning(언러닝) 기술에 주목했다. 언러닝은 GPT-3나 Stable Diffusion 같은 모델이 이미 학습한 데이터 중 특정 개인정보나 저작권 관련 데이터를 효율적으로 삭제하는 기술이다. 모델의 성능을 최대한 유지하면서도 최소한의 비용으로 특정 데이터의 영향력을 제거하는 것이 핵심이다.

이번 연구에서는 Gradient Surgery 기법을 활용하여 생성형 모델의 출력값에 미치는 영향을 최소화하는 방식을 제안했다. 기존의 Newton Update 방식이 적용되기 어려운 복잡한 DNN(심층 신경망) 및 생성 모델 환경에서, 그래디언트 충돌을 최소화함으로써 데이터의 영향력을 효과적으로 제거할 수 있음을 이론적·실험적으로 증명했다.

LG AI Research는 향후 Differential Privacy(차분 프라이버시) 기반의 가중치 탐색 프레임워크를 도입하여, 프라이버시 보호 경계를 더욱 정교하게 강화할 계획이다.