Hillock v0.4: Ollama용 저사양 RAG 엔진
Just released v0.4 of Hillock, a local neuro-symbolic memory engine for Ollama
·2026.08.14 02:41
핵심 내용
Ollama와 연동하여 VRAM 사용을 최소화하며 고속 문서 파싱을 지원하는 로컬 메모리 엔진 Hillock v0.4가 출시되었습니다.
자세히 보기
Hillock v0.4는 Ollama와 연동하여 사용할 수 있는 로컬 뉴로-심볼릭(neuro-symbolic) 메모리 엔진입니다. VRAM 점유를 최소화하면서도 효율적인 RAG(검색 증강 생성) 환경을 구축하는 데 최적화되어 있습니다.
주요 특징은 다음과 같습니다:
- 고속 문서 파싱: LLM 호출 대신 CUDA 텐서 분류 파이프라인(GLiREL + MiniLM)을 사용하여 문서를 약 5초 만에 SQLite SPO 트리플로 변환합니다.
- 효율적인 쿼리 게이팅: 10,000차원 VSA(Vector Symbolic Architecture) 벡터를 활용해 CPU에서 1ms 미만으로 쿼리 게이팅을 수행하며, 실제 Ollama 호출은 게이트를 통과한 경우에만 발생합니다.
- 저사양 최적화: GTX 1070 환경에서도 1.2GB 미만의 VRAM만 사용하여 구동이 가능합니다.
- v0.4 업데이트: 스키마 타입 제약 조건 추가 및 역관계(inverted relations) 오류를 수정했습니다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.