대규모에서의 정확도

AI21은 엔터프라이즈 AI가 여전히 신뢰성과 정확성의 벽을 넘지 못했다고 진단한다. 의료·은행·제조처럼 정확성이 필수인 산업에서는 이 문제가 더 치명적이며, LLM과 LRM은 end-to-end 성능이 불안정하다. 이를 보정하려고 hard coding을 늘리면 유연성을 잃는다.

기업이 택해온 방식은 둘뿐이다.

• Prompt & Pray: 모델이 알아서 잘하길 기대하는 방식으로, 복잡한 다단계·다도구 작업 흐름에서 오류가 누적된다.
• Hard-Coded Chains: 예측 가능성은 있지만, 변화에 취약하고 재작성 비용이 크다.

Large Reasoning Models는 Chain-of-Thought (CoT) 와 Reinforcement Learning (RL) 로 성능이 좋아졌지만, 시도마다 결과가 달라지고 지시 준수와 도구 사용이 안정적이지 않다. 행동 공간이 크고 환경별 변수가 많은 문제에서는 생각 토큰을 순차적으로 생성하는 방식 자체가 대안 탐색에 적합하지 않다고 지적한다.

기존의 agentic frameworks도 LLM, business logic, data를 얇게 엮는 수준이라 같은 한계를 벗어나지 못한다. 결국 불안정한 AI와 경직된 프로그램 사이에서 선택해야 하는 구조가 유지된다.

대신 AI21은 Guaranteed AI Performance와 Quality Level Agreements (QLAs) 를 제시한다. 사용자가 지시, 제약, 비용 한도를 명시하면 시스템이 그 조건을 만족하도록 설계되고, 결과는 Predictability, Transparency, Cost Control을 갖춘다.

핵심은 AI가 단순히 생각하는 데서 멈추지 않고 plan and execute 해야 한다는 점이다. 이를 위해 작업을 여러 단계로 나누는 macro-planning과, 각 단계에서 적절한 모델·도구를 고르고 inference-time compute를 늘리며 검증을 돌리는 micro-planning이 필요하다고 설명한다.

이 접근이 계약서 작성, 연구 요약, 고객지원처럼 정확성이 중요한 업무를 자동화하는 기반이 될 것이라고 본다. 더 많은 내용은 곧 공개하겠다고 예고했다.