지식 편집으로 망각 줄인다

연구진은 continued pretraining에서 새 지식을 학습할 때 기존 지식이 손상되는 catastrophic forgetting을 줄이는 방법을 제안했다.

핵심은 특정 개념과 관련된 파라미터를 식별한 뒤, 기존 지식에 영향을 줄 가능성이 낮은 파라미터만 업데이트하고 나머지는 동결하는 selective knowledge suppression 방식이다.

기존에는 망각을 방지하기 위해 새 데이터와 과거 데이터를 함께 섞어 학습하는 방식이 널리 사용됐지만, 전체 데이터에 대한 재학습이 필요해 비용이 크게 증가한다. 제안 방식은 새 데이터만으로 학습하면서 기존 지식과 능력을 보존하는 것을 목표로 한다.