[AI 윤리 세미나 EP.3] 신뢰할 수 있는 AI 경험 설계를 위한 주요 AI 툴킷 소개 및 실무 적용 가이드 - LG AI Research 블로그

생성형 AI 기술이 비즈니스 가치를 창출하고 있지만, **할루시네이션(Hallucination)**이나 데이터 편향성 같은 한계는 기업의 평판과 법적 책임으로 이어질 수 있다. 따라서 보안성과 신뢰성을 갖춘 인간-AI 상호작용(Human-AI Interaction)을 설계하는 것이 매우 중요하다.

본 글에서는 신뢰할 수 있는 AI 경험을 극대화하기 위한 다양한 AI 툴킷을 소개한다.

• Microsoft의 HAX (Human-AI Experience Toolkit): AI가 사용자의 니즈를 이해하고 신뢰를 쌓을 수 있도록 돕는 가이드라인과 프레임워크를 제공한다. 총 4단계의 상호작용 과정과 18개의 가이드라인을 통해 시스템이 제대로 작동하지 않을 때의 해결 방안까지 다룬다.
• Google의 PAIR (People + AI Research) Guidebook: 사용자 경험을 우선시하는 AI 시스템 설계를 지원한다.
• LG AI Research의 AI 윤리 영향 평가 시스템: 다양한 툴킷의 리뷰를 바탕으로 구축된 자체 시스템을 소개한다.

Microsoft HAX를 실제 개발에 적용하기 위해서는 이해관계자 선정, 가이드라인 우선순위 결정, 예상 적용 모델 검증 등 체계적인 5단계 프로세스가 필요하다.