LlamaCloud와 LlamaParse 공개

LlamaIndex가 LlamaCloud를 공개하며, 관리형 parsing, ingestion, retrieval 서비스를 한 번에 묶은 새 데이터 파이프라인을 내놨다. 핵심은 복잡한 문서를 더 잘 읽고, RAG 앱이 생산 환경에서 바로 쓸 수 있는 데이터를 쉽게 만들도록 돕는 것이다.

출시 구성은 두 가지다.

• LlamaParse: 표와 그림이 섞인 복잡한 PDF를 구조화된 markdown으로 파싱하는 전용 서비스다. LlamaIndex의 ingestion/retrieval와 직접 연결되며, 현재 public preview로 제공되고 PDF를 지원한다. 공개 사용량은 1,000 pages/day로 제한되며, 상용 이용은 별도 문의가 필요하다.
• Managed Ingestion and Retrieval API: 다양한 데이터 소스를 불러오고 처리해 저장한 뒤, 어떤 언어에서든 REST API로 retrieval을 호출할 수 있는 관리형 API다. 현재는 private preview이며 제한된 enterprise design partner에게만 열려 있다.

배경에는 RAG의 핵심 병목이 있다. chunk size, embedding model, parsing 방식처럼 데이터 스택의 작은 선택 하나가 곧바로 답변 품질을 바꾸는데, LLM은 블랙박스라 전통적인 방식처럼 단순한 unit test로는 정확성을 보장하기 어렵다. 실제 사용자들이 가장 많이 겪는 문제도 정확도 부족, 너무 많은 조정 변수, 복잡한 PDF 처리, 그리고 운영 중 데이터 동기화였다.

LlamaParse는 특히 이 문제를 정면으로 겨냥한다. 복잡한 테이블과 차트를 포함한 PDF를 markdown으로 바꿔 semantic structure를 보존하고, 이를 바탕으로 기존 오픈소스의 advanced Markdown parsing과 recursive retrieval 기법을 그대로 활용하게 해준다. 저자들은 이 방식이 기존의 naive chunking과 retrieval보다 훨씬 낫다고 설명하며, 아리X브 논문, 10-K 공시, 의료 보고서 같은 문서에 유용하다고 강조한다.

LlamaCloud의 managed pipeline은 세 가지 축으로 설명된다.

• Ingestion: LlamaHub의 150+ data sources와 40+ storage integrations를 바탕으로 데이터를 자동 동기화하고 처리한다.
• Retrieval: 오픈소스 LlamaIndex 위에 REST API를 얹어, 저장소 위의 고급 retrieval을 외부 언어에서 바로 호출할 수 있게 한다.
• Playground: 배포 전에 ingestion/retrieval 전략을 실험하고 평가할 수 있는 UI를 제공한다.

출시 파트너로는 DataStax, MongoDB, Qdrant, NVIDIA가 소개됐다. LlamaIndex는 이미 월간 다운로드 200만 회를 넘겼다고 밝히며, Adyen, T-Systems, Jasper.ai, Weights and Biases, DataStax 같은 기업에서도 쓰이고 있다고 덧붙였다. 전반적으로 이 발표는, RAG를 모델 중심이 아니라 데이터 품질 중심으로 끌고 가려는 LlamaIndex의 방향성을 보여준다.