인공지능, 네가 내놓은 결과가 정말 네 가설대로 나온 거니? : XAI 활용기

머신러닝 모델은 복잡한 알고리즘으로 구성되어 있어 결과가 도출된 과정을 인간이 이해하기 어렵다. 이러한 블랙박스 문제를 해결하기 위해 XAI(eXplainable Artificial Intelligence), 즉 설명 가능한 인공지능이 주목받고 있다.

AI 알고리즘은 입력을 받아 출력을 내놓는 함수와 같다. XAI는 이 함수의 입력과 출력 사이의 상관관계를 설명하며, 주로 출력에 대한 입력의 기여도를 분석함으로써 결과의 근거를 제시한다.

실제 활용 사례는 다음과 같다.

• 얼굴 나이 예측(Computer Vision): 특정 부위(예: 코 끝, 입 모양)가 나이 예측에 어떤 영향을 주었는지 시각화하여, 단순 결과 전달을 넘어 맞춤형 관리 제품을 추천하는 등 사용자 경험을 개선할 수 있다.
• 감성 분석(NLP): 특정 단어(예: '오늘', '역시')가 감정 판별에 과도하게 기여하는지 확인하여, 모델의 편향을 점검하고 토큰화 전략을 수정하는 등 모델 성능 개선의 근거로 활용한다.