위기 상담의 격차를 메우는 Counselor Copilot 소개

LlamaIndex RAG-a-thon에서 팀의 Counselor Copilot이 Traditional 트랙 2위, Datastax/AstraDB 카테고리 1위를 차지했다. 대상은 LGBTQ+ 청소년 위기 지원을 제공하는 The Trevor Project의 TrevorText 상담 흐름이다.

위기 상담사는 피크 시간대의 높은 수요와 함께, 여러 채팅을 오가며 대응하고 복잡한 PDF 형식의 연락처·케이스 문서를 확인해야 한다. 이 때문에 번아웃 위험이 커지고, 정작 청소년과의 대화에 집중할 시간이 줄어든다.

해결책인 Counselor Copilot은 상담사가 별도로 프롬프트를 입력하지 않아도 백그라운드에서 동작하는 실시간 보조 도구다. 접촉 맥락과 채팅 기록을 함께 읽어 적절한 답변을 제안하고, 상담사는 이를 편집해 사용할 수 있으며, 접촉자에게 직접 응답하지는 않는다.

핵심 기능은 다음과 같다.

• 복잡한 PDF에서 연락처 데이터를 실시간으로 추출해 대화 시작 시 요약 제공
• 채팅 맥락을 바탕으로 긴급 개입 필요성을 판단하고 슈퍼바이저 에스컬레이션 제안
• 조직의 가이드라인과 리소스를 활용해 응답 초안 생성
• 위치 기반 지역 자원을 검색해 이메일로 공유
• CRM의 케이스 폼을 채우고 대화 내용을 요약해 기록

구현은 LlamaParse로 CRM 안의 PDF에서 관련 정보를 뽑아 요약하는 방식으로 시작한다. 이후 LlamaIndex ReAct Agent가 대화를 모니터링하며, 에스컬레이션, 응답·리소스 추천, 웹 검색 및 전송 같은 도구를 상황에 맞게 호출한다.

응답 추천용으로는 The Trevor Project 문서를 담은 벡터 데이터베이스를 만들고, RAG로 상황에 맞는 지침을 검색한 뒤 GPT-4로 상담사용 답변을 작성했다. 마지막으로 대화 내용을 이용해 Salesforce 필드를 채우고 상담 요약까지 자동화했다.

향후 확장 방향도 제시했다.

• 상담 대화 기록으로 오픈소스 LLM을 파인튜닝해 비용과 품질 개선
• 대화 단계별 권장 스타일을 반영하는 conversation stage 판단 도구 추가
• 상담사의 thumbs up/down 피드백을 수집해 후속 학습에 활용

이 접근은 행정 업무를 덜어 상담사가 핵심 역할에 집중하게 만들고, 한정된 인력으로 더 많은 위기 대응을 가능하게 하는 방향을 제시한다.