업스테이지, 과기정통부와 AI 윤리·신뢰성 강화 논의

업스테이지가 과학기술정보통신부의 'AI 윤리·신뢰성 확산을 위한 대표기업 방문' 첫 번째 기업으로 선정되어, AI 윤리 및 신뢰성 확보를 위한 기술적 경험을 공유했다.

이날 현장에서는 업스테이지의 주요 AI 솔루션이 소개되었다:

• 다큐먼트 AI 팩: OCR과 NLP 기술을 결합해 문서의 텍스트 변환, 추출, 분석 및 요약을 수행하며 금융 및 산업계에서 활용되고 있다.
• AskUp Seargest: 검색과 추천 기술을 결합해 초개인화된 정보를 채팅 형태로 제공하는 솔루션이다.

업스테이지는 생성형 AI의 주요 문제인 환각(Hallucination) 현상을 완화하기 위해 국내 최초로 '? 검색' 기능을 도입했다. 또한 개인정보 텍스트 마스킹 처리와 부적절한 이미지 생성 요청에 대한 출력 거부 조치 등 AI 윤리 및 신뢰성 확보를 위한 다각적인 노력을 기울이고 있다.