오픈소스 AI 플랫폼 DocsGPT 공개

DocsGPT는 사용자의 자체 인프라 내에서 민감한 데이터를 안전하게 처리할 수 있도록 설계된 오픈소스 AI 플랫폼입니다. 에이전트 빌더, 심층 조사 도구, 문서 분석 기능을 통합하여 제공하며, 답변의 신뢰성을 높이기 위해 출처 인용(Citation) 기능을 UI에 포함하고 있습니다.

주요 특징 및 기능:

• 다양한 데이터 지원: PDF, DOCX, CSV 등 문서 형식부터 오디오 파일(MP3, WAV 등), 웹 크롤링, GitHub, Reddit 등 광범위한 소스를 지식 베이스로 활용할 수 있습니다.
• 멀티 모델 지원: OpenAI, Google, Anthropic과 같은 상용 API는 물론, Ollama 및 llama_cpp 기반의 로컬 모델을 모두 지원하여 데이터 통제권을 보장합니다.
• 확장성 및 도구 호출: 외부 API 및 서비스와 연결하여 LLM이 단순 조회를 넘어 실제 동작을 수행하는 도구 호출(Tool Calling) 기능을 지원합니다.
• 워크플로 및 통합: 음성 녹음 기반의 워크플로, Discord/Telegram 봇 연동, React 위젯 등 다양한 배포 형태를 제공합니다.

기술 스택 및 설치:

• 아키텍처: Flask(백엔드), Vite/React(프론트엔드) 기반으로 구성되어 있으며, Docker를 통해 간편하게 배포할 수 있습니다.
• 배포 유연성: Kubernetes 환경을 고려하여 설계되었으며, 로컬 추론 엔진 연결부터 클라우드 API 사용까지 다양한 설정 옵션을 제공합니다.