[NeurIPS 2023] 합성 Outlier 생성을 통한 Out-of-Distribution 탐지 (2편)

OOD(Out-of-Distribution) 탐지를 위해 실제 데이터를 볼 수 없는 한계를 극복하고자, 다양한 도메인에서 Outlier Generation을 정의하는 연구들을 다룬다.

첫 번째 연구는 시각적 Outlier에만 의존하던 기존 방식에서 벗어나, LLM을 활용해 텍스트 기반의 Outlier를 생성하는 Textual Outlier Exposure를 제안한다. CLIP과 같은 멀티모달 네트워크를 백본으로 활용하며, 텍스트 Outlier를 세 가지 수준(Word, Description, Caption)으로 생성하여 시각적 Outlier보다 적은 비용으로 높은 성능을 달성했다.

• Word-level: 'A Photo of {Word}' 형태의 직관적 설계
• Description-level: GPT-3를 활용한 클래스 설명 생성
• Caption-level: BLIP-2를 통해 풍부한 시각적 의미를 포함한 캡션 생성

두 번째 연구는 Outlier 생성 과정에서 발생할 수 있는 Mistaken OOD Generation 문제를 다룬다. 생성된 Outlier가 실제 ID(In-Distribution) 데이터와 유사한 의미를 가질 경우, 모델이 두 데이터를 혼동하여 오히려 탐지 성능이 저하되는 문제를 해결하는 데 초점을 맞춘다.