엔터프라이즈 AI의 정의와 과제, 해결책

범용 LLM은 연구·번역·코딩까지 폭넓게 처리하지만, 입력 데이터가 편향되거나 불완전하면 환각과 오답이 늘어난다. 기업용 enterprise AI는 고객지원, 문서 검색, 요약처럼 고가치 업무에 맞춘 **task-specific models(TSMs)**를 내부 문서와 결합해 정확도와 통제력을 높인다.

2023년 Mata v. Avianca 사건처럼 ChatGPT가 존재하지 않는 판례와 인용을 만들어낸 사례는, 대규모 모델이 실제 업무에서 얼마나 쉽게 신뢰를 잃는지 보여준다. 2023년 KPMG 조사에서도 전 세계 응답자의 약 **73%**가 AI의 위험을 우려했다.

해법은 grounding과 RAG다. 모델이 조직의 내부 지식베이스를 검색해 근거를 붙이고, 정보가 부족할 때는 추측 대신 답변을 제한하도록 설계하면 정확도와 보안을 함께 끌어올릴 수 있다. API 기반 사전 튜닝 모델은 AI 전문 인력이 부족한 조직도 빠르게 도입할 수 있게 한다.

AI21의 사례로는 다음이 제시된다.

• 은행: term sheet 요약 자동화로 테스트에서 98% 정확도를 기록했다.
• 리테일: 다국어 상품 설명 생성과 데이터 보강으로 신규 상품 온보딩 시간을 25% 이상 줄였다.
• 의료: 환자용 의료 응답 시스템을 8주 만에 구축해 안전한 답변을 제공했다.

핵심은 범용 AI의 실험 단계를 지나, 기업용 AI가 낮은 비용과 높은 신뢰성으로 실제 생산 환경에 들어가고 있다는 점이다.