월 $20 스택으로 월매출 $10K 회사를 여러 개 운영하는 법

AWS의 EKS, RDS, NAT Gateway처럼 복잡한 기본값 대신, 5~10달러 VPS 한 대로 서비스를 굴리는 방식이 핵심이다. 1GB RAM도 충분히 활용할 수 있고, 필요하면 swapfile을 붙여 운영비를 계속 낮춘다.

백엔드는 Go로 작성해 단일 정적 바이너리로 빌드한 뒤 서버에 scp로 올려 실행한다. pip install 같은 의존성 지옥을 피하고, 프레임워크를 비대하게 쌓지 않아도 프로덕션 수준의 웹 서버를 만들 수 있다.

배치형 AI 작업은 로컬 GPU로 돌린다. RTX 3090과 vLLM을 써서 OpenAI API 같은 외부 비용을 없애고, 개발과 실험은 Ollama로 시작한 뒤 프로덕션에서는 vLLM, 더 나아가 Transformer Lab으로 확장한다. 에이전트/LLM 관리 도구로는 laconic과 llmhub를 사용한다.

사용자 대면의 저지연 추론은 로컬만 고집하지 않고 OpenRouter로 묶는다. Anthropic, Google, OpenAI를 각각 관리하는 대신 OpenAI 호환 통합 하나로 여러 프론티어 모델에 접근하고, 한쪽 장애가 나면 다른 모델로 자동 폴백한다.

코딩 보조는 비싼 AI IDE 대신 GitHub Copilot을 활용한다. 요청 단위 과금 특성을 이용해, 에이전트가 긴 시간 코드베이스를 훑고 많은 파일을 바꿔도 비용을 낮게 유지하는 전략을 취한다.

데이터베이스는 새 프로젝트도 기본적으로 SQLite를 쓴다. WAL을 켜면 읽기와 쓰기가 서로 덜 막히고, 로컬 .db 파일 하나로도 충분히 많은 동시 사용자를 처리할 수 있다고 본다. 인증이 번거로운 부분은 smhanov/auth 같은 자체 라이브러리로 흡수한다.

결론은 분명하다.

• 월 수십 달러 이하 인프라로도 SaaS를 충분히 운영할 수 있음
• 복잡한 클라우드 대신 단순한 서버 + 단순한 배포 + 로컬 AI가 유리함
• 비용을 거의 없애면 번레이트 걱정보다 PMF 탐색에 더 오래 집중할 수 있음