SK플래닛, 사내 멀티 LLM 플레이그라운드 활용 프롬프톤 개최

SK플래닛은 2024년 여름 사내 구성원의 AI 활용을 높이기 위해 멀티 LLM Playground를 시범 오픈하고, 이를 활용한 프롬프톤 이벤트를 진행했다. 개발팀이 주도한 플레이그라운드는 OpenAI, Anthropic, Meta, 네이버 등 10개 이상의 모델을 한 화면에서 비교 테스트할 수 있도록 설계되었다.

기존에는 각 LLM 제공사의 사이트를 오가며 발생하는 Context Switching과 비용 및 속도 비교의 어려움이 주요 Pain Point였다. 플레이그라운드는 Temperature, Top_p 등 파라미터 조절 기능과 함께 입출력 토큰 비용 및 답변 속도를 실시간으로 제공하여 모델 선택을 지원한다.

지원팀과 협업한 프롬프톤은 OK캐쉬백, 시럽 등 자사 서비스 캐릭터를 AI로 재해석하는 AI Characterization을 주제로 진행되었다. 참가자들은 프롬프트 엔지니어링을 통해 캐릭터의 페르소나를 정의하고, 데이터 분석가, 개발자 등 다양한 직군이 참여해 결과를 공유했다. 이는 단순한 도구 제공을 넘어 사내 AI 활용 문화를 확산하기 위한 노력의 일환이다.