Abliteration, 합성 데이터 생성 도구 출시

일반적인 LLM은 안전 가이드라인으로 인해 분류기 학습에 필수적인 부정적(negative), 희귀(rare), 적대적(adversarial) 예시 생성을 거부하는 경우가 많다. 이는 안전 분류기, 남용 탐지, 탈옥(jailbreak) 평가 및 보안 연구용 데이터셋 구축을 어렵게 만드는 요인이다.

Abliteration은 이를 해결하기 위해 다음과 같은 기능을 갖춘 새로운 합성 데이터 워크플로우를 출시했다:

• 대상 스키마(Target schema) 사전 정의
• 실제 세계의 사실(Real-world facts) 결합 기능
• 내보내기 시 유지되는 레이블 및 사유 코드(Labels and reason codes)
• 데이터셋 검토를 위한 출처(Provenance) 제공
• Hugging Face, Kaggle, S3, OpenAI 등 기존 도구로의 내보내기 경로 지원

주요 활용 사례로는 모더레이션 분류기(그루밍 및 괴롭힘 방지), 보안 연구용 데이터셋, 모델 평가(evals) 등이 있다.