Ollama 기반 로컬 RAG CLI 도구 'raggy' 공개

개발자 Paul Knysh가 Ollama를 기반으로 구축된 경량 CLI 도구 raggy를 공개했다. 이 도구는 로컬 문서에 대한 검색 증강 생성(RAG)을 수행하도록 설계되었으며, 데이터 프라이버시를 위해 임베딩 생성과 하이브리드 데이터베이스(벡터 + BM25 인덱스) 운영이 모두 로컬에서 처리된다.

주요 특징

• 하이브리드 검색: 벡터 검색과 BM25 키워드 검색을 결합하여 검색 정확도를 높였다.
• 다양한 입력 지원: 일반적인 문서 형식을 지원하며, 이미지나 스캔본은 OCR을 통해 자동으로 텍스트로 변환한다.
• 유연한 답변 생성: 답변 생성 단계는 로컬 LLM을 사용하거나, API 키를 통해 원격 모델과 연동할 수 있다.