AI 허위 판례 제출로 재판 취소 및 변호사 징계

미시시피의 한 연방법원이 양측 변호사가 AI 도구를 사용하여 **15개의 허위 판례(Hallucination)**가 포함된 문서를 제출한 것을 확인하고, 진행 중이던 민사 재판을 취소했습니다.

판사 사무관이 법률 데이터베이스에서 해당 판례들을 찾을 수 없음을 발견하면서 문제가 드러났으며, 이에 따라 판사는 다음과 같은 조치를 내렸습니다.

• 변호사 4명 정직 처분
• 전문직 과실에 따른 1,000달러 ~ 3,500달러의 벌금 부과
• 변호사 자격 박탈(Disbarment) 가능성 제기

피고 측 변호인단은 제3자 법률 AI 어시스턴트를 사용했다고 주장했으며, 원고 측 변호인은 ChatGPT를 사용했음을 인정했습니다. 이번 사건은 사실 관계의 정확성이 법적 구속력을 갖는 전문 분야에서 AI 환각(Hallucination) 현상이 초래할 수 있는 심각한 리스크를 보여주는 사례로 기록되었습니다.