올인원 로컬 AI 앱 AnythingLLM

문서 기반 RAG와 AI 에이전트 기능을 통합하여 제공하는 로컬 우선 AI 애플리케이션입니다.

AnythingLLM은 문서 수집, 임베딩, 벡터 검색, 채팅 UI를 하나의 앱에 통합한 로컬 우선(local-first) AI 솔루션입니다. 복잡한 파이프라인 구축 없이도 개인의 문서를 기반으로 한 프라이빗 챗봇을 손쉽게 구축할 수 있습니다.

주요 기능 및 특징:

다양한 모델 지원: OpenAI, Anthropic 등 클라우드 API는 물론, Ollama, LM Studio 등을 통한 로컬 모델 구동을 완벽히 지원합니다.
지능형 에이전트: 노코드 에이전트 빌더, 동적 모델 라우팅, MCP(Model Context Protocol) 호환성을 통해 외부 도구와 컨텍스트를 연결합니다.
RAG 파이프라인: 문서 파싱부터 벡터 DB 저장, 출처 인용(citation)까지 이어지는 검색 증강 생성 흐름을 내장하고 있습니다.
유연한 배포: 개인용 데스크톱 앱(macOS, Windows, Linux)과 다중 사용자 및 웹 위젯 기능을 지원하는 Docker 기반 셀프호스팅 버전을 모두 제공합니다.
광범위한 스택: LanceDB를 기본으로 PGVector, Chroma, Pinecone 등 다양한 벡터 DB와 멀티모달 입력을 지원합니다.