LLM Function-Calling을 위한 불확실성 정량화(Uncertainty Quantification)

LLM이 자율적으로 현실 세계의 과제를 해결함에 따라, 도구 사용 능력을 부여하는 LLM Function-Calling 패러다임이 널리 채택되고 있다.

하지만 LLM이 함수를 잘못 호출할 경우, 송금이나 데이터 삭제와 같이 되돌릴 수 없는 심각한 결과를 초래할 수 있다. 따라서 함수를 실행하기 전, 해당 호출이 과제를 올바르게 해결할 수 있는지에 대한 LLM의 신뢰도를 고려하는 것이 매우 중요하다.

이를 위해 불확실성 정량화(Uncertainty Quantification, UQ) 방법론을 활용하여 LLM의 판단에 대한 확신 정도를 측정하는 연구가 필수적으로 요구된다.