AI 번역의 환각, 오디세이아와 KBS 생중계 오역 사례로 본 구조적 한계

최근 영화 '오디세이' 흥행에 따른 고전 번역본 출간과 KBS의 NASA 아르테미스 2호 발사 생중계에서 AI 번역 오류가 발생해 논란이 일었습니다. 오디세이아 AI 번역판에서는 고대 그리스어가 현대 신조어인 '킹받네', '알빠노?' 등으로 오역됐으며, KBS 생중계에서는 관제 교신 전문 용어인 'Roger, roll, pitch'가 비속어가 섞인 자막으로 송출되는 사고가 있었습니다.

이러한 현상은 예외적인 해프닝이 아닙니다. 2025년 10월 알리바바 인터내셔널 디지털 커머스와 톈진대학교 연구팀이 자체 개발한 벤치마크 'HalloMTBench'로 GPT-4o-mini, Claude-3.7-Sonnet, Gemini-2.0-Flash 등 17개 주요 LLM을 평가한 결과, 모델과 언어쌍에 따라 환각 발생률이 33~60%에 달하는 것으로 나타났습니다. 특히 추론 RL로 튜닝된 모델일수록 오류가 심해지며, 환각은 지시 이탈과 원문 이탈로 나뉩니다.

생성형 AI 번역의 구조적 원인

생성형 AI는 원문과 분리된 의미 표상이 없이 통계적으로 가장 그럴듯한 다음 토큰을 생성하는 방식입니다. 이로 인해 전문 용어나 문화적 맥락에서 원문 의미와 그럴듯한 표현이 갈라지는 한계가 드러납니다. 주요 원인은 다음과 같습니다.

• 토큰화 오류: 텍스트를 서브워드 단위로 쪼개 처리하며, 교착어나 신조어는 의미 단위가 아닌 파편으로 입력되어 초기부터 재료가 어긋날 수 있습니다.
• 자기회귀 구조의 오류 누적: 생성된 토큰이 다음 입력의 일부가 되므로, 한 번의 오류가 검증 없이 전제되어 문장 끝까지 오류가 누적됩니다.
• 학습 목표의 불일치: 모델은 '다음 토큰 예측 정확도'를 최적화할 뿐 '의미 일치'를 직접 겨냥하지 않습니다.
• 컨텍스트 희석: 긴 문맥에서 앞부분의 어조나 은유가 뒷부분 생성 시점에 온전히 반영되지 않습니다.
• RLHF의 부작용: 자연스러운 출력을 위한 튜닝 과정에서 원문의 미묘한 뉘앙스가 밀려날 수 있습니다.

검증 계층 부재와 확신 신호의 비노출

AI 번역은 태생적으로 검증 장치가 없습니다. 일반 소프트웨어와 달리 생성형 AI는 원문을 잘못 이해해도 실패로 처리하지 않고 매끄러운 정상 응답을 내놓습니다. 또한 모델 내부의 토큰 확률(logprob)은 존재하지만, Anthropic의 Claude API 등에서도 이 값이 노출되지 않아 사용자는 낮은 확신의 단어도 높은 확신의 단어와 구분할 수 없습니다. 이는 AI 번역이 검증 장치와 확신 신호 없이 작동하는 구조적 한계를 보여줍니다.