Apple, 다단계 학습 생략한 단백질 설계 모델 'SimpleDesign' 공개

Apple 연구진이 단백질 서열과 구조를 동시에 설계하는 새로운 모델 SimpleDesign을 공개했다. 기존 생성 모델은 데이터를 잠재 공간(latent space)으로 변환하는 오토인코더 학습과 해당 공간에서의 생성 모델 학습이라는 다단계 과정을 거쳤으나, SimpleDesign은 이러한 단계 없이 데이터 공간에서 직접 학습하는 단일 단계(end-to-end) 방식을 채택했다.

핵심 기술 및 성능

• 단일 단계 학습: 서열을 위한 이산 교차 엔트로피(discrete cross-entropy)와 구조를 위한 회귀(regression) 목표를 결합한 단일 객관 함수를 사용한다.
• 멀티모달 백본: 서열과 구조 모달리티의 차이를 효과적으로 처리하기 위해 Transformer 기반 백본을 사용하며, 모달리티별 처리와 함께 두 모달리티에 대한 전역 자기 주의(global self-attention)를 유지한다.
• 학습 데이터: 200만 개 이상의 서열-구조 쌍(sequence-structure pairs)으로 학습되었다.

이 모델은 공동 설계(co-design) 및 조건 없는 서열/구조 생성 벤치마크에서 경쟁력 있는 성능을 입증하며, 복잡한 다단계 학습 파이프라인 없이도 고품질 단백질 설계가 가능함을 보여준다.