카카오 정규규 CTO 주재 패널톡, "AI 시대 개발자는 오케스트레이터로 진화해야"

카카오 정규돈 CTO의 사회로 진행된 if(kakao)25 Krew Day AI 패널톡에서 외부 전문가들이 AI 시대의 개발 패러다임 변화와 인프라 구축 전략을 논의했다. 패널로는 Google Search Engineering Head인 brad, lablup 신정규 대표, 카카오테크 AI 네이티브 전략팀의 robin이 참여했다.

AI 인프라와 하드웨어 제어의 중요성

신정규 대표는 백엔드.AI가 컨테이너 기반 GPU 자원 관리를 위해 디바이스 드라이버부터 MLOps까지 수직 계열화된 스택을 갖춘 솔루션임을 소개했다. 그는 LLM 시대에 GPU 스펙과 PTX 레이어의 비결정성(Non-Deterministic) 문제가 성능에 영향을 미치므로, 하드웨어 레벨의 정밀한 제어가 필수적이라고 강조했다.

구글의 AI 전환과 검색 진화

brad는 구글이 위기 이후 'AI First' 전략으로 조직을 재편하며 엔지니어링 환경을 조성한 과정을 설명했다. 그는 구글의 'AI 개요(AI Overviews)'가 검색 결과를 LLM이 요약하고 재구성하는 방식임을 밝히며, 사내 AI 검색 구축 시 원본 데이터를 제한 없이 LLM에 노출해 정제를 맡기는 것이 시의성 확보에 중요하다고 조언했다.

개발자 역할의 변화와 워크플로우

신정규 대표는 현재 코딩의 40%가 AI로 대체되고 있으며, 올해 말에는 70~80%까지 대체될 것으로 전망했다. 이에 따라 개발자는 코드를 직접 작성하는 역할에서 AI 에이전트들을 병렬로 지휘하는 '오케스트레이터'로 변모해야 한다고 주장했다.

robin은 카카오테크의 AI 네이티브 팀이 폭포수 모델 대신 POC(개념 증명) 기반의 유연한 워크플로우를 채택해 개발 속도를 높인 사례를 공유했다. 그는 AI 도구 사용이 보편화될수록 시니어 엔지니어의 빠른 의사결정과 조율 능력이 생산성의 핵심이 될 것이라고 분석했다.