인프런이 자동으로 자막을 생성하기까지 (AI/인프라 편)

인프런은 사내 해커톤을 통해 강의 AI 자막 기능을 아이디어로 채택하고, 이를 정식 서비스로 구현하기 위한 기술적 여정을 시작했다. 자막 생성의 핵심 조건으로 오프라인 동작, 추가 비용 최소화, 빠른 처리 속도를 설정했다.

검토 결과, 데이터 외부 전송과 비용 문제를 피하기 위해 OpenAI의 Whisper 모델을 선택했다. 구현 효율을 높이기 위해 Python 버전 대신 C++로 포팅된 whisper.cpp를 활용하여 영상에서 음성을 추출하고 srt 자막을 생성하는 파이프라인을 구축했다.

서비스화를 위해 기존 AWS Batch 기반의 영상 인코딩 인프라를 활용하려 했으나, CPU 기반 인스턴스(c6i.xlarge)에서는 28분 영상 처리 시 69분이 소요되는 성능 문제를 겪었다. 이를 해결하기 위해 **GPU 인스턴스(g5)**를 활용한 PoC를 진행하며 최적의 인프라 구성을 탐색했다.