특수 직교군 등변 AI/ML을 이용한 위상 오류 강인 실용적 채널 추정

무선 채널 추정(CE)에서 AI/ML 기반 모델은 주로 가산 잡음 제거에 초점을 맞춰왔으나, 오실레이터 위상 잡음이나 타이밍 오프셋 같은 곱셈형 잡음은 데이터 기반 시스템의 성능을 크게 저하시킨다. 두 잡음을 분리 처리하면 오류가 단계별로 전파되고, 통합 처리하면 모델 복잡도가 급증하는 딜레마가 있었다.

이를 해결하기 위해 삼성 R&D China-Beijing의 Qi Xiong은 SOGeCE(Special Orthogonal Group equivariant Channel Estimation) 를 제안했다. 핵심 아이디어는 모든 위상 회전이 수학적으로 특수 직교군(SOG)에 속한다는 점을 활용해, AI 모델의 가중치와 편향을 SOG 군 작용에 대해 불변(invariant)인 부분 공간에 투영하는 것이다.

모델 구조상 주요 특징은 다음과 같다:

• 입출력 표현에 스칼라·벡터·텐서의 직합(direct sum)으로 구성된 비균질 벡터 공간 사용
• ReLU 대신 SOG 등변성을 유지하는 게이트형 비선형 활성화 함수 적용
• 투영 행렬 계산 시 대형 SVD 대신 소형 행렬 SVD와 순열을 조합한 희소 투영기 알고리즘으로 계산 비용 절감

5G PUSCH 링크 레벨 시뮬레이터 실험에서 SOGeCE는 2개 은닉층 구성으로 기존 AI 기반 CE 대비 위상 오류 환경에서 우수한 성능을 보였으며, 낮은 모델 복잡도를 유지했다.