AI Portal부터 보안관제까지, kt cloud의 AI 내재화 3가지 사례

kt cloud는 고객에게 먼저 제안하기 전에 사내 업무에 AI를 적용하는 dog-fooding 방식으로 AI Portal, AI 보안관제, AI 장애관제 3가지를 직접 구축·운영했다. 핵심은 기술 시연이 아니라 실제 병목을 풀고, 평가 체계를 먼저 잡아 성과를 수치로 검증하는 데 있었다.

AI Portal은 Jira/Wiki, Salesforce, 사내 문서 서버에 흩어진 지식을 하나의 검색창으로 묶었다. Data Sources, Application(Docker/VM), LLM Layer로 나뉜 3-Layer 구조를 두고, 문서를 미리 파싱·벡터화하는 사전 indexing pipeline과 LangGraph 기반 AI-Portal Core, Slack Bot, Vector DB를 연결했다. 질의 시점에 검색하는 대신 사전 처리로 실시간에 가까운 응답 속도를 확보했고, RAG 품질은 검색 문서의 질에 크게 좌우된다는 판단 아래 문서 파싱과 인덱싱 전략에 시간을 투자했다. 법무 문서처럼 텍스트 중심·한국어 특화가 필요한 영역에는 Solar Pro 2, 멀티모달이 필요한 영역에는 GPT-4o를 병행했고, 그 결과 AI Portal에 물어보세요가 표준 업무 흐름으로 자리잡았다.

AI 보안관제는 Splunk의 SPL 작성 난이도가 관제 품질을 가로막는 문제에서 출발했다. 관제 요원이 자연어로 질의하면 Claude Agent가 의도를 파악하고, 자체 개발한 MCP Server가 이를 SPL로 변환해 Splunk를 검색한 뒤 결과를 다시 분석해 인사이트를 돌려준다. 공격 이벤트 대응, 위협 차단 추천, 이력 기반 분석을 한 흐름으로 묶으면서 초급 관제 요원도 복잡한 로그 분석을 즉시 수행할 수 있게 했다.

AI 장애관제는 숙련도에 따른 대응 품질 편차를 줄이기 위해 User Story 기반 5단계 워크플로우로 설계했다. 상황 인지, 상황 공유, 상황 판단·대응, 이상 징후·장애 공지, 장애 대응 단계마다 RAG가 유사 사례와 가이드를 제시한다. 모의훈련 시나리오로 Down Event, NW 장애, 이벤트 수집 불가, Cloud 콘솔 접속 불가 VoC 등을 평가했고, 1~3년 차 미숙련자 그룹은 RAG 사용 후 점수가 23~24% 상승했다. 숙련자와 미숙련자의 응답 정확도 격차도 40% 감소했다.

세 사례의 공통 교훈은 분명하다.

• 평가 체계가 먼저다.
• AI는 Slack, Splunk, 관제 업무 흐름처럼 이미 익숙한 환경에 녹여야 한다.
• 모델은 용도에 따라 Solar Pro 2, GPT-4o, Claude를 나눠 쓰는 편이 효율적이다.

kt cloud는 이 사내 경험을 AI Foundry로 고객 환경에 확장하고 있다.