64M페이지 OCR 비용 줄이기

64 million pages를 처리해야 하는 비영리 단체 사례가 올라왔고, 댓글에서는 “무작정 대형 VLM을 돌리기보다 문서 유형에 맞는 OCR을 먼저 써라”는 쪽으로 의견이 모였다.

핵심 제안은 다음과 같다.

• 전통 OCR 우선: Tesseract, PaddleOCR, Surya, MarkItDown, Marker 같은 도구를 먼저 시험
• 문서 분류 파이프라인: 디지털 PDF는 텍스트 추출, 스캔본만 OCR로 보내 비용 절감
• 작은 비전 모델 + LoRA: 문서 유형이 일정하면 소규모 VLM을 파인튜닝해 정확도/비용 균형을 맞추는 방식
• 전용 OCR 모델: Nvidia Nemotron OCR v1, LightOnOCR-2-1B, DeepSeek OCR, OLM OCR 등이 언급됨

실사용 관점의 수치도 나왔다. 한 댓글은 LightOnOCR-2-1B가 단일 H100에서 초당 5.71 pages 정도를 처리할 수 있고, 추정상 < $0.01 / 1,000 pages 수준의 효율을 제시했다고 공유했다. 또 다른 댓글은 대략적인 비용을 계산하며, 4090/3090 계열과 스팟 인스턴스를 조합하면 비용을 크게 낮출 수 있다고 추정했다.

자금 조달 측면에서는 Google TPU Research Cloud, AWS Research Credits, Oracle for Research 같은 비영리/연구용 크레딧 트랙이 실제 대안으로 언급됐다. 다만 댓글 전반의 결론은, 먼저 샘플 문서로 품질과 처리량을 측정하고, 그 결과를 바탕으로 가장 싼 경로를 선택하라는 것이었다.