Forge 소개

Forge는 기업이 공개 데이터가 아닌 내부 지식으로 frontier급 AI 모델을 만들 수 있게 하는 시스템이다. 엔지니어링 표준, 컴플라이언스 정책, 코드베이스, 운영 절차처럼 조직 안에 축적된 정보를 모델 학습의 중심에 둔다.

이미 ASML, DSO National Laboratories Singapore, Ericsson, European Space Agency, HTX Singapore, Reply 같은 조직과 협력해, 각자의 독점 데이터로 복잡한 시스템과 핵심 기술에 맞는 모델을 훈련하고 있다.

Forge는 모델 생애주기 전반을 지원한다.

• Pre-training: 대규모 내부 데이터로 도메인 인지 모델을 구축
• Post-training: 특정 업무와 환경에 맞게 행동을 정교화
• Reinforcement learning: 내부 정책, 평가 기준, 운영 목표에 맞춰 정렬하고 에이전트 성능을 개선

이 접근은 단순한 답변 생성을 넘어, 내부 용어와 절차를 이해하고 도구를 더 정확히 선택하며 멀티스텝 워크플로를 안정적으로 수행하는 enterprise agent를 가능하게 한다. 결과적으로 도메인 특화 모델은 조직의 정책과 비즈니스 로직을 반영하는 운영 구성요소로 기능한다.

아키텍처 측면에서는 dense와 mixture-of-experts (MoE) 를 모두 지원하고, 필요할 경우 multimodal 입력도 다룬다. Dense는 폭넓은 범용 성능에, MoE는 더 큰 모델을 더 낮은 latency와 compute cost로 운영하는 데 초점을 맞춘다.

Forge는 agent-first로 설계됐다. Mistral Vibe 같은 자율 agent가 하이퍼파라미터 탐색, job 스케줄링, synthetic data 생성, eval hill-climbing까지 수행할 수 있으며, Forge는 훈련 중 metric을 모니터링해 benchmark regression을 막는다.

운영 방식은 일회성 학습이 아니라 지속적 개선에 가깝다. 내부 evaluation과 피드백을 바탕으로 reinforcement learning pipeline을 반복 적용해 규제 변화, 시스템 업데이트, 새 데이터 유입에 맞춰 모델을 계속 조정한다.

적용 사례도 분명하다. 정부 기관은 정책·규제·행정 절차에, 금융기관은 컴플라이언스와 리스크에, 소프트웨어 팀은 proprietary codebase와 개발 표준에, 제조업체는 설비 사양과 유지보수 기록에 맞춘 모델을 만들 수 있다. 핵심 목표는 조직의 지식과 제약조건 안에서 더 정확하고 신뢰할 수 있는 모델과 agent를 운영하는 것이다.