Knapsack 기반 데이터 파이프라인

멀티모달 모델 학습 시 발생하는 GPU 유휴 상태와 과도한 패딩(Padding) 문제를 해결하기 위한 단계별 최적화 전략을 제시한다.

기존의 Naive Padding 방식은 배치 내 가장 긴 시퀀스에 맞춰 모든 데이터를 패딩하며, 이 과정에서 최대 60%에 달하는 연산 낭비가 발생할 수 있다. 이를 개선하기 위해 전역 최대 길이를 설정하고 초과 데이터를 삭제하는 Constrained Padding을 적용할 수 있으나, 여전히 고정된 길이로 인한 비효율성이 남는다.

최종적으로 배낭 문제(Knapsack Problem) 알고리즘을 활용하여, 배치 내 최대 토큰 제한(max_length) 내에 최대한 많은 시퀀스를 채워 넣는 Smart Packing 방식을 제안한다. 이 방법은 패딩을 최소화하고 배치당 데이터 밀도를 극대화하여 GPU 활용도를 높인다.

관련 구현 코드는 별도의 GitHub 저장소를 통해 제공된다.