DuckDB-NSQL-7B 기반 Text-to-SQL

MotherDuck와 Numbers Station이 공개한 DuckDB-NSQL-7B는 DuckDB SQL 생성에 최적화된 LLM이다. Meta의 Llama-2-7b를 기반으로 일반 SQL 및 DuckDB 특화 데이터셋을 통해 미세 조정(Fine-tuning)되었다.

이 모델은 단순한 SELECT 문뿐만 아니라 DuckDB의 공식 문서와 확장 기능을 반영한 다양한 유효한 SQL 문을 생성할 수 있다. 특히 Hugging Face Dataset Viewer API와 결합하면, Parquet 형식 등 Hugging Face에 호스팅된 12만 개 이상의 데이터셋에 대해 복잡한 코딩 없이 자연어 명령만으로 데이터를 조회하고 분석할 수 있다.

사용자는 transformers 라이브러리를 통한 표준 방식이나, llama.cpp를 이용한 GGUF 양자화 모델 로드 방식을 통해 로컬 및 클라우드 환경에서 효율적으로 모델을 사용할 수 있다.