[ICML 2022] 2편: Self-supervised learning - LG AI Research BLOG
ICML 2022에서 발표된 Self-supervised learning 관련 논문 중 ADIOS 프레임워크를 중심으로 핵심 기술을 소개한다.
Self-supervised learning은 라벨이 없는 데이터셋으로부터 의미 있는 data representation을 학습하는 방법으로, 크게 Self-prediction과 Contrastive learning 두 가지 방향으로 분류된다.
본 글에서는 ICML 2022에서 발표된 논문 중, 이미지의 semantic 정보를 효과적으로 학습하기 위한 ADIOS(Adversarial Masking for Self-Supervised Learning) 프레임워크를 중점적으로 다룬다.
기존의 Masked image modeling은 픽셀을 무작위로 마스킹하여 주변의 local correlation에 의존해 복원하는 문제가 있었다. 이는 모델이 이미지의 고차원적인 semantic 정보를 제대로 학습하지 못하게 만든다.
ADIOS는 Occlusion model과 Inference model이 서로 대립하며 학습하는 구조를 제안한다.
- Occlusion model (M): 원본 이미지 크기의 마스크를 생성하며, 마스크된 버전과 원본의 representation 사이의 거리를 최대화하도록 학습된다.
- Inference model (I): 마스킹된 이미지를 입력받아 주변 context를 이용해 복원하고, 원본 이미지와 동일한 representation을 갖도록 거리를 최소화한다.
이러한 방식은 SimCLR, SimSiam, BYOL과 같은 기존의 Self-supervised 모델들에 적용 가능하며, 모델이 단순한 픽셀 복원을 넘어 이미지의 의미 있는 부분을 추론하도록 유도한다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.