카카오, 사내 기술 세미나 Techtalk 2회 개최… TF 서빙 10배 최적화 등 공유

카카오가 사내 기술 세미나 Techtalk의 두 번째 세션을 개최하며, AI 및 머신러닝 관련 현업 개발자들의 실무 경험을 공유했다. 이번 세미나는 추천 기술과 딥러닝에 관심 있는 크루들을 대상으로 학습 및 실행 과정을 중심으로 진행되었다.

TensorFlow 서빙 10배 최적화

카카오 추천팀의 하광성 엔지니어는 TensorFlow 모델을 서비스에서 사용할 때 TensorFlow Serving 대비 10배 빠른 속도를 달성한 과정을 소개했다. 초기 프로토타입은 기존 서빙과 비슷한 성능이었으나, 레이어 통합과 코드 레벨 최적화로 2배, 도메인 레벨 최적화로 5배 이상 성능을 개선했다. 이후 병목 구간을 집중 최적화하여 최종적으로 10배 이상의 속도 향상을 이뤘다.

대규모 데이터 학습 및 추천 시스템 방향

한민호 엔지니어는 300GB 규모의 데이터를 처리하며 모델 성능을 유지하는 방법을 공유했다. 광고 추천팀에서 딥러닝 전환 최적화 타게팅 모델을 개발할 때, 데이터 볼륨과 처리 시간 문제를 해결하기 위해 하둡 병목 구간 분석 및 데이터 축소 기법을 적용한 사례를 다루었다.

최규민 분석가는 넷플릭스 추천 시스템을 참고하며 개인화 추천 시스템이 나아가야 할 방향과 목표에 대해 논의했다. 발표자들은 세미나를 통해 지식을 정리하고 피드백을 받는 과정이 개인 성장과 사내 문화 형성에 기여한다고 평가했다. 다음 Techtalk은 5월에 진행될 예정이다.