예측적 데이터 디버깅: 모델 학습 전, 모델이 무엇을 배울지 미리 확인하고 제어하라

모델의 성능은 데이터셋이 결정하며, 데이터는 모델을 프로그래밍하는 것과 같습니다. 하지만 기존의 DPO(Direct Preference Optimization) 방식은 학습 후 결과가 나온 뒤에야 무엇이 잘못되었는지 역추적해야 하는 번거로움이 있었습니다.

새로운 예측적 데이터 디버깅(Predictive Data Debugging) 기술은 학습을 시작하기 전, 주어진 데이터셋을 통해 모델이 어떤 행동을 강화하거나 억제할지 미리 예측합니다. 이 예측 모델은 실제 학습 결과와 R² = 0.9라는 매우 높은 상관관계를 보입니다.

이 기술의 핵심은 모델의 **해석 가능성(Interpretability)**을 활용하여 데이터를 해석하는 것입니다. 단순히 임베딩 기반 클러스터링을 사용하는 대신, 모델이 데이터를 처리할 때 계산하는 **개념(Concepts)**을 직접 측정함으로써 모델이 학습하게 될 내용을 정확히 파악합니다.

이를 통해 다음과 같은 이점을 얻을 수 있습니다:

• 사전 방지: 원치 않는 행동(예: 아첨, 환각, 부적절한 답변)이 나타나기 전에 데이터셋을 수정할 수 있습니다.
• 정밀한 추적: 특정 행동을 유발하는 데이터 클러스터를 정확히 찾아낼 수 있습니다.
• 의도적인 모델 설계: 데이터셋과 학습 과정을 재구성하여 모델의 학습 신호를 직접 제어할 수 있습니다.

Goodfire는 이러한 기술을 자사의 플랫폼인 Silico에 통합하여 개발자들이 의도한 대로 모델을 설계할 수 있도록 지원하고 있습니다.