DS와 MLE가 함께 일하는 법

ML 모델을 서비스에 올리는 과정에서 DS(Data Scientist)와 MLE(ML Engineer)의 역할과 책임이 명확하지 않으면, 모델 코드와 실행 환경을 맞추는 데 반복적으로 시간이 소요된다. 토스뱅크는 1년 동안 협업 방식을 세 차례 개선하며 문제를 해결했다.

Phase 0에서는 DS가 주피터 노트북으로 만든 모델을 MLE에게 전달하면, MLE가 서빙 코드를 처음부터 다시 작성했다. 모델에 필요한 라이브러리와 설정 파일을 주고받는 과정이 반복되면서 모델 수가 늘어날수록 협업 비용도 커졌다.

Phase 1에서는 협업의 경계를 사람 사이가 아닌 파일로 옮겼다. DS가 핵심 추론 로직을 별도의 .py 파일로 분리하고, MLE 리뷰와 CI를 통과하도록 했다. 소통 비용은 줄었지만, 파일의 구조와 전역 설정 변경 같은 세부 규칙이 정해지지 않아 서빙 환경에서 다른 모델에 영향을 줄 가능성이 남았다.

Phase 2에서는 역할 분담의 기준을 인터페이스로 정의했다. 공용 패키지 commons-ml-model에 모델의 추상화 클래스를 만들고, 전처리·추론·후처리 메서드를 모델 구현의 계약으로 정했다.

DS는 인터페이스를 구현한 모델을 하나의 패키지로 만들고, MLE는 이를 pip install로 설치해 서비스에 올린다. 코드를 직접 옮기는 대신 패키지를 통해 배포하며, 공통 래퍼가 로그·메트릭·추적을 자동으로 남기도록 구성해 모델 개발과 서빙의 경계를 명확히 했다.