[AI 윤리 세미나 EP.3] 신뢰할 수 있는 AI 경험 설계를 위한 주요 AI Toolkit 소개 및 실무 적용 가이드라인 - LG AI Research BLOG

생성형 AI의 발전으로 **환각(Hallucination)**이나 데이터 편향성 같은 기술적 한계가 기업의 평판과 법적 책임으로 이어질 수 있는 환경이 조성되었다. 이에 따라 안전하고 신뢰할 수 있는 Human-AI Interaction 설계에 대한 중요성이 높아지고 있다.

**Microsoft의 HAX(Human-AI Experience Toolkit)**는 인간과 AI의 상호작용을 설계하는 데 사용되는 프레임워크다. AI가 사용자의 요구를 이해하고 신뢰를 얻을 수 있도록 4단계의 상호작용 과정과 18개의 가이드라인을 제공하며, 특히 시스템이 올바르게 작동하지 않는 상황까지 고려한다.

Google의 PAIR(People+AI Research) Guidebook은 AI 모델의 투명성, 설명 가능성, 편향성 제거에 집중한다. 사용자에게 고유한 가치를 제공하는 것을 성공의 척도로 삼으며, 데이터 수집부터 피드백 및 오류 관리 체계까지 체계적인 가이드를 제공한다.

LG AI연구원은 이러한 글로벌 기업의 Toolkit 검토 결과를 바탕으로, 제품 개발 초기 단계부터 위험 요소를 고려하고 시스템 설계를 구체화할 수 있는 자체적인 AI 윤리 영향평가 체계를 마련하여 활용하고 있다.