페어링 데이터 없이 임베딩 공간 간 변환 가능… 벡터 DB 보안 위협 제기

페어링 데이터 없는 임베딩 변환

연구진이 페어링 데이터, 인코더, 사전 정의된 매칭 세트 없이 텍스트 임베딩을 한 벡터 공간에서 다른 공간으로 변환하는 최초의 방법을 소개했다. 이 비지도 학습(Unsupervised) 접근 방식은 Platonic Representation Hypothesis가 추측한 보편적 잠재 표현(Universal Latent Representation)을 통해 임베딩을 변환하며, 서로 다른 아키텍처, 파라미터 수, 학습 데이터를 가진 모델 쌍에서도 높은 코사인 유사도를 달성했다.

벡터 데이터베이스 보안 위협

임베딩의 기하학적 구조를 보존하면서 다른 공간으로 변환할 수 있는 능력은 벡터 데이터베이스의 보안에 심각한 영향을 미친다. 공격자는 임베딩 벡터에만 접근할 수 있어도 원본 문서에 대한 민감한 정보를 추출할 수 있으며, 이는 분류(Classification) 및 속성 추론(Attribute Inference)에 충분히 활용될 수 있다.