CLaRa: 연속적 잠재 추론을 통한 검색과 생성의 결합

기존의 RAG(Retrieval-augmented generation) 방식은 외부 지식을 활용해 LLM의 성능을 높이지만, 긴 컨텍스트 처리 문제와 검색-생성 단계 간의 최적화 불일치라는 한계를 가지고 있다.

이를 해결하기 위해 제안된 **CLaRa(Continuous Latent Reasoning)**는 공유된 연속적 공간(shared continuous space) 내에서 임베딩 기반 압축과 공동 최적화를 수행하는 통합 프레임워크다. 이 방식은 생성기에 입력되는 문서 길이를 줄이면서도 풍부한 의미 정보를 유지한다.

핵심 기술로는 **SCP(Key-preserving data synthesis framework)**가 도입된다. SCP는 질의응답(QA) 및 패러프레이징을 기반으로 하여, 정보 손실을 최소화하면서도 검색 가능한 압축 벡터를 생성하도록 돕는다.