컬리, BigQuery에서 Gemini Pro 호출해 리뷰 분석 자동화 사례 공유
·2024.07.25 10:00
핵심 내용
컬리가 BigQuery에서 Gemini Pro를 호출해 별도 모델 구축 없이 리뷰 요약 및 분석을 자동화했다.
자세히 보기
컬리 데이터서비스개발팀이 BigQuery 환경에서 Gemini Pro를 직접 호출해 리뷰 분석 업무를 자동화하는 방식을 공개했다. 기존에는 별도의 딥러닝 모델 구축이 필요했으나, Vertex AI 연동 후 SQL의 ML.GENERATE_TEXT 함수를 활용함으로써 구현 시간과 비용을 크게 줄였다.
주요 활용 사례
- 리뷰 요약 및 홍보 문구 생성: 제품별 리뷰를 결합해 한 단어 요약이나 마케팅 문구를 즉시 생성한다.
- 키워드 추출 및 카테고리 분류: 리뷰 텍스트에서 핵심 키워드를 추출하거나 배송, 품질 등 사전 정의된 카테고리로 분류한다.
- 감성 분석: 리뷰의 감정을 0~10점의 숫자로 매기는 방식 등으로 정량화한다.
신뢰성 확보 및 대량 처리 전략
LLM 특유의 할루시네이션과 출력 형식 불일치 문제를 해결하기 위해 응답을 JSON 형태로 강제하고, 프롬프트에 형식 지시를 명확히 포함했다. 또한 대량 데이터를 처리할 때는 리뷰 100개 단위로 묶는 배치(batch) 기법을 적용해 효율을 높였다. RAI(Responsible AI) 기능을 통해 안전 속성 위반 여부를 점검하고, finish_status 값을 확인해 생성 완료나 토큰 초과 등 실행 종료 원인을 추적할 수 있다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.