카카오, if(kakao AI) 2024 첫째 날 27개 기술 세션 공개

카카오가 개발자 컨퍼런스 if(kakao AI) 2024의 첫째 날 일정을 공개했다. 이번 행사는 AI와 데이터를 주제로 총 27개의 오후 기술 세션으로 구성되며, 카카오 내부의 다양한 AI 적용 사례와 연구 성과를 공유한다.

주요 트랙 및 세션 내용

세션은 AI 에이전트, AI 서비스, AI 플랫폼, AI 네이티브, 멀티모달 AI, AI 책임 및 안전성, 데이터 등 7개 트랙으로 나뉜다. (원문에 따라 AI 서비스 트랙 추가)

AI 에이전트: 사용자의 컨텍스트를 이해하는 Context-Aware AI Mate, 카카오의 사내 업무 효율화를 위한 RAG 기반 사내봇, 그리고 LLM 추론 구조를 분석해 지연 시간을 최소화하는 애플리케이션 설계 기법을 다룬다.
AI 플랫폼: 전사적 AI 개발과 운영을 위한 **Kakao AI Platform(KAP)**의 핵심 기능(Store, Serving, Training, Agent)을 소개한다. 또한 일간 500개 이상의 모델을 서빙하는 메시지 광고 추천 시스템의 Nvidia Triton 도입 사례와 카카오페이의 LLM 서빙 프레임워크 최적화 경험을 공유한다.
멀티모달 AI: CVPR 2024 하이라이트 논문으로 선정된 카카오의 자체 멀티모달 LLM 개발 인사이트를 공개한다. 개인화 텍스트-이미지(T2I) 생성 모델과 생성형 AI를 활용한 의료 데이터 개체명 인식(NER) 기술도 포함된다.
AI 책임 및 안전성: 카카오뱅크의 자체 LLM 평가 프레임워크 DUO, 스미싱 탐지를 위한 SLM 파인튜닝, 그리고 그래프 기반 악성 유저군 탐지 기술을 소개한다. AI 서비스의 안전성과 신뢰성을 확보하기 위한 노력도 다룬다.

데이터 트랙에서는 AI 기반 광고 추천 파이프라인에서 스파크 스트리밍을 활용한 실시간 데이터 처리와 모니터링 전략을 공유한다. 카카오클라우드의 MLOps 활용 방안과 AMD 가속기를 탑재한 비디오 스트리밍 사례도 함께 발표된다.