NLP의 성공을 따라 시각-언어 분야에서도 대규모 데이터와 인프라를 활용한 거대 모델 학습이 가속화되고 있다.
LG AI Research가 CVPR 2022에 참가하여 멀티모달 표현 학습과 L-Verse 연구를 선보였다.
CVPR 2022에서 발표된 Transformer 기반 및 자기지도 학습 기반의 Continual Learning 연구 트렌드를 소개한다.
자연어 감독(Natural Language Supervision)을 활용해 시각적 표현을 인간의 추론 방식과 정렬함으로써 도메인 일반화(DG) 성능을 높이는 새로운 방법론을 제안한다.
데이터 불균형 문제를 해결하기 위한 롱테일 분포(LTD)의 개념과 다양한 학습 방법론을 다룬다.
LG AI Research가 ICML 2022에서 발표된 자기지도 학습(Self-supervised learning) 관련 주요 연구를 소개했다.
대규모 그래프 환경에서 조합 최적화 문제를 효율적으로 해결하기 위한 신경 조합 최적화(NCO) 연구를 소개한다.
NVIDIA GTC 2022 세션을 통해 디지털 아바타 시장의 성장세와 핵심 기술인 Omniverse ACE를 소개한다.
LG AI Research가 Elsevier와 협력하여 화학 특허 및 저널에서 반응 정보를 추출하는 ChEMU 2022 챌린지에서 최고 성능을 달성했다.
데이터 효율성을 높이기 위해 도메인 간 경계를 허문 통합 대조 학습 프레임워크 UniCLIP을 소개한다.
상태 정보만을 이용해 전문가의 행동을 모방하는 오프라인 관찰 학습(LfO)의 안정성을 높이는 새로운 알고리즘을 제안한다.
LG AI Research는 음악 작곡의 핵심인 모티프 생성을 돕기 위해 루프(Loop) 기반의 음악 생성 모델을 연구한다.
대규모 멀티모달 모델의 표현력을 소규모 타겟 모델로 효율적으로 전이하는 BeamCLIP 방법론을 제안한다.
대규모 멀티모달 모델 CLIP의 표현력을 작은 모델로 효율적으로 전이하는 BeamCLIP 기술을 소개한다.
LG AI Research가 NeurIPS 2022에서 발표된 생성 모델, LLM, 강화 학습 분야의 주요 연구 트렌드를 리뷰했다.
기존 머신러닝의 한계를 극복하기 위해 상관관계를 넘어 인과관계를 추론하는 Causal Representation Learning의 필요성과 원리를 다룬다.
AI Briefing