에이전틱 AI(Agentic AI) 도입을 위한 조직적 설계 가이드 - LG AI Research BLOG

AI 패러다임이 단순 답변을 제공하는 Passive AI에서 스스로 목표를 설정하고 도구를 사용하는 Agentic AI로 급격히 변화하고 있다. 기업의 관심 또한 단순 LLM을 넘어 업무 목표(Goal)를 이해하고 도구(Tool)와 워크플로우(Workflow)를 실행하는 지능형 에이전트로 확장되는 추세다.

하지만 에이전트의 자율성이 높아질수록 의사결정 과정의 불투명성 문제가 발생한다. 에이전트가 왜 특정 결정을 내렸는지, 실행 중 어디에서 오류가 발생했는지, 그리고 정책과 규정을 준수했는지 추적하기 어려워지기 때문이다. 이를 해결하기 위해 확률적 생성 모델인 LLM 위에 **온톨로지(Ontology)**와 같은 논리적 구조를 계층화하여 에이전트의 행동을 통제하고 관찰 가능하게 만들어야 한다.

AAAI 2026에서 주목받은 연구들은 지식 그래프(KG)와 LLM을 결합하여 추론 성능을 높이고 비용을 최적화하는 **구조적 추론(Structural Reasoning)**에 집중하고 있다. 대표적인 접근 방식은 다음과 같다.

• PathMind: 정답에 도달할 가능성이 가장 높은 추론 경로를 선택하는 'Retrieve-Prioritize-Reason' 프레임워크를 통해 API 비용을 절감하고 효율성을 높임.
• DoM: 멀티 에이전트 토론 메커니즘을 통해 불완전한 지식 그래프의 한계를 보완하고 LLM의 답변 신뢰도를 향상함.