Google, 불확실성으로 환각 문제를 다시 본다

환각은 단순한 오답이 아니라 신뢰를 무너뜨리는 확신을 동반한 오류다. 외부 도구 없이 작동하는 최전선 LLM도 사실형 질문응답에서 여전히 틀린 답을 자신 있게 내놓는다.

지금까지의 사실성 개선은 주로 모델의 지식 경계를 넓히는 데서 나왔지만, 무엇을 알고 무엇을 모르는지 가르는 경계 인식은 충분히 좋아지지 않았다. 모델이 진실과 오류를 완벽히 구분할 판별력을 갖기 어렵기 때문에, 환각을 없애는 것과 유용성을 유지하는 것 사이에 피할 수 없는 trade-off가 생긴다.

해법은 답을 하거나 거절하는 이분법이 아니라 faithful uncertainty(정직한 불확실성)다. 메타인지가 핵심이며, 역할은 두 갈래로 나뉜다.

• 직접 상호작용에서는 불확실성을 솔직하게 드러낸다.
• agentic systems에서는 언제 검색할지와 무엇을 신뢰할지를 정하는 제어층으로 작동한다.

이 방향으로 나아가기 위한 세부 과제도 남아 있다.