언러닝의 효율화: 저영향 포인트를 활용한 계산 비용 절감

기존 머신러닝 언러닝(unlearning) 방법들은 삭제할 모든 데이터포인트를 동등하게 취급했다. Apple 연구팀은 이를 도전했다. 모델 학습에 거의 영향을 주지 않는 데이터포인트까지 제거할 필요가 정말 있을까?

연구팀은 **영향력 함수(influence functions)**를 활용해 언어 모델과 비전 모델 모두에서 모델 출력에 무시할 수 있는 수준의 영향을 미치는 학습 데이터 부분집합을 식별했다. 이 저영향 포인트들을 언러닝 전에 미리 제거하는 효율적인 프레임워크를 제안한 것이다.

실제 사용 사례에서 이 접근법은 최대 50%의 계산 비용 절감을 달성했다. 개인정보보호 우려가 커지는 가운데, 프라이버시 보호와 계산 효율성을 동시에 확보하는 새로운 경로를 제시한다.