LangChain 2024 AI 현황 보고서

LangChain은 월 3만 명 이상의 사용자가 LangSmith를 이용하고 있는 데이터를 바탕으로 2024년 AI 생태계의 변화를 분석했다. 주요 변화로는 오픈소스 모델 채택의 급증과 단순 검색 워크플로우에서 다단계 AI 에이전트 애플리케이션으로의 전환이 꼽힌다.

인프라 사용 현황을 살펴보면, OpenAI는 여전히 가장 많이 사용되는 LLM 제공자로, 2위인 Ollama보다 6배 이상 높은 사용률을 기록했다. 특히 로컬 실행에 초점을 맞춘 Ollama와 클라우드 배포를 지원하는 Groq이 상위 5위권에 진입하며 유연한 배포 옵션에 대한 관심이 높아지고 있음을 보여줬다.

벡터 스토어 부문에서는 Chroma와 FAISS가 여전히 인기 있는 선택지로 유지되는 가운데, Milvus, MongoDB, Elastic의 벡터 데이터베이스도 상위 10위권에 진입했다. 이는 GenAI 워크플로우에서 검색(Retrieval) 기능의 중요성이 여전히 크다는 것을 의미한다.