Hugging Face의 Transformers 설계 철학

Hugging Face는 소프트웨어 개발의 일반 원칙인 **DRY(Don't Repeat Yourself)**를 Transformers 라이브러리에 적용하지 않는 대신, '단일 모델 파일(single model file)' 정책을 채택했다. 이는 모델의 forward pass에 필요한 모든 코드를 하나의 파일(예: modeling_bert.py)에 집중시키는 방식이다.

이러한 설계 결정의 주요 이유는 다음과 같다:

• 오픈소스 기여 최적화: 모델 코드를 독립적으로 유지함으로써, 특정 모델의 버그를 수정하거나 새로운 모델을 추가할 때 다른 모델에 미치는 부작용(side effect)을 최소화하고 리뷰를 용이하게 한다.
• 사용자 중심의 코드 설계: Transformers의 주요 사용자는 코드를 읽고 수정하는 개발자다. 모든 로직을 한 파일에 모아둠으로써 모델의 동작 방식을 쉽게 이해하고 커스텀할 수 있게 한다.
• 빠른 기술 변화 대응: AI 연구는 매우 빠르게 진화한다. Attention 메커니즘 등을 공통 모듈로 표준화할 경우, 새로운 구조가 등장할 때마다 기존 모델들을 깨뜨릴 위험이 크기 때문에 각 모델의 독립성을 보장한다.
• 모델의 정적 특성: 머신러닝 모델은 한 번 배포되면 구조가 변하지 않는 정적인 특성을 가진다.