LG AI Research 588

최근 LLM의 진화는 단순 지시 이행 모델에서 복잡한 문제를 해결하는 **Large Reasoning Models (LRMs)**로 급격히 이동하고 있다. LRMs는 인간과 유사한 추론 과정을 거치며, 물리, 화학, 생물 등 다양한 과학 기술 분야에서 박사급 문제 해결 능력을 보여준다.

하지만 LRMs는 추론 과정 중 정보 공백이 발생할 경우 내부 지식에만 의존하여 **환각(Hallucination)**을 일으키거나, 불필요하게 추론을 길게 끄는 오버싱킹(Over-thinking) 문제를 겪기도 한다.

이를 해결하기 위해 외부 지식을 능동적으로 활용하는 Agentic LRM이 새로운 대안으로 떠오르고 있다. 모델이 추론 중 지식 공백을 감지하면 외부 소스를 통해 스스로 지식을 보충하는 방식이다. 대표적으로 OpenAI의 ChatGPT(Deep Research), Google DeepMind의 Gemini, LG AI Research의 ChatEXAONE 등이 있다.

본 글에서는 웹 검색 도구를 통해 LRM의 장기 추론을 강화하는 알리바바 통이랩(Tongyi Lab)의 WebDancer를 소개한다. WebDancer는 모델이 탐색 기반 추론과 지식 보충 전략을 자연스럽게 학습할 수 있도록 설계된 합성 데이터 생성 방법론을 제안한다.

핵심 방법론은 다음과 같다:

• CRAWLQA: 여러 웹페이지를 탐색하며 정보를 수집하고 평가하는 능력을 학습시키기 위한 멀티홉(Multi-hop) 데이터셋 생성 방식
• E2HQA: 복잡한 추론과 외부 지식 보충을 위해 설계된 합성 QA 데이터셋 생성 방식