LlamaIndex 뉴스레터 2024-02-13

LlamaIndex v0.10이 공개되며 생산성보다도 production readiness에 초점을 맞춘 구조 개편이 이뤄졌다. 핵심 패키지가 새로 정리됐고, 수백 개의 통합과 LlamaPacks가 별도 PyPI 패키지로 분리됐다. 기존 LlamaHub는 모든 integration을 모으는 중앙 허브로 재편됐고, ServiceContext는 더 나은 개발 경험을 위해 deprecated됐다.

동시에 Advanced RAG Development를 주제로 한 short course도 소개됐다. 비정형 데이터 처리부터 agent integration까지 다루며, LlamaIndex Query Pipelines를 통해 text-to-SQL의 기초부터 고급 query 기법까지 실습형으로 익히도록 구성됐다.

이번 주 하이라이트는 Self-RAG, FlowiseAI 통합, 그리고 MistralAI의 RAG 가이드였다. Self-RAG는 LlamaPack 형태로 제공되어 동적 retrieval과 반복형 RAG 워크플로를 쉽게 붙일 수 있고, FlowiseAI 통합은 drag-and-drop 방식의 no-code RAG 앱 개발을 돕는다. Mistral 문서에는 Mistral-medium과 Mistral embedding 모델을 활용한 LlamaIndex 기반 RAG 가이드가 추가됐다.

기능과 도구도 넓어졌다. RAG CLI는 로컬 파일 시스템에서 on-device embedding으로 파일을 검색하게 해주고, create-llama는 한 번의 CLI 명령으로 50개 이상의 tool을 갖춘 full-stack agent server를 띄운다. 또한 LlamaIndex.TS에 agent 기능이 추가됐고, DeepEval 연동으로 RAG 평가와 CI/CD 단위 테스트도 강화됐다.

가이드와 튜토리얼도 다양하다. agentic RAG를 위한 step-wise query 가이드, Hugging Face의 Messages API 연동 가이드가 제공됐고, Query Pipeline 구축, Llama2와 LlamaIndex로 RAG 앱 만들기, Mistral-7B fine-tuning 기반 knowledge memorization, NeMo Guardrails 소개까지 이어진다. 마지막으로 기업 대상으로는 LlamaIndex의 enterprise-ready 제품과 파트너 프로그램에 대한 관심을 요청한다.