Model Genome: LLM이 처음부터 학습됐는지 파생됐는지 지문 분석

Model Genome은 LLM이 처음부터 학습된 모델인지, 기존 오픈 웨이트 모델에서 파생됐는지 공개 자료만으로 검증하는 재현 가능한 분석 파이프라인이다. 분석 대상은 아키텍처, 토크나이저, 가중치 세 축이며, 결과를 하나의 모델 ‘유전체’로 결합한다.

첫 번째 축은 config.json의 아키텍처 지문이다. model_type, vocab_size, hidden_size, intermediate_size, 레이어 수, 어텐션 헤드 수와 같은 항목을 비교하고, 특히 (hidden_size, intermediate_size, layers, heads, kv heads) 형태가 외부 오픈 웨이트 모델과 정확히 일치하는지 확인한다. 구조가 완전히 일치하면 해당 아키텍처를 채택했을 가능성이 높다는 의미다.

두 번째 축은 토크나이저 어휘 중복률이고, 세 번째 축은 임베딩의 CKA 분석이다. 다만 행 단위 임베딩 코사인 유사도는 회전 불변성 때문에 유효하지 않았으며, CKA 역시 continued pretraining과 from-scratch 학습을 명확히 구분하지 못했다. 따라서 설정 파일과 토크나이저가 핵심 증거로 남는다.

연구진은 같은 기준을 한국 기관 9곳의 공개 foundation model에 적용했으며, 분석 결과는 Model Genome Korea 데모에서 확인할 수 있다.