Apple의 ICLR 2026 머신러닝 연구

Apple이 ICLR 2026에서 RNN, SSM, 멀티모달 생성, 3D 장면 합성, 단백질 접힘까지 폭넓은 연구를 발표한다. 행사는 브라질 리우데자네이루에서 열리며, Apple은 후원사로도 참여한다.

핵심 발표 중 하나는 ParaRNN이다. 비선형 RNN의 학습을 병렬화하는 프레임워크로, 전통적인 순차 방식 대비 665배 빠른 학습을 구현했다. 이 접근은 7B 파라미터급 고전적 RNN을 학습 가능하게 만들어, 트랜스포머와 경쟁 가능한 언어모델 성능을 노릴 수 있게 했고 코드도 오픈소스로 공개됐다.

또 다른 논문 To Infinity and Beyond: Tool-Use Unlocks Length Generalization in State Space Models는 SSM의 장단점을 짚는다. Mamba 계열처럼 긴 컨텍스트에 강한 구조라도, 모델 용량을 넘는 장문 생성에서는 성능이 떨어진다. 하지만 외부 도구에 접근하도록 하면, 적절한 훈련 데이터와 결합했을 때 산술·추론·코딩 과제에서 더 긴 길이와 더 높은 복잡도까지 일반화할 수 있음을 보여준다.

이미지와 텍스트를 함께 다루는 영역에서는 MANZANO가 소개된다. 하나의 공유 비전 인코더가 이해용 연속 임베딩과 생성용 이산 토큰을 만들어내고, 통합 autoregressive LLM과 보조 diffusion decoder가 이를 바탕으로 이미지 이해와 생성을 함께 처리한다. Apple은 이 구조와 훈련 레시피가 기존 오픈소스 unified 모델의 이해/생성 성능 간 trade-off를 줄인다고 설명한다.

3D와 생물학 분야에서도 결과가 나온다. SHARP는 단일 사진에서 3D Gaussian 표현을 1초 미만에 생성하고, 근처 시점에서는 실시간 렌더링이 가능하다. 절대 스케일을 갖는 metric representation을 제공하며, 기존 최고 모델 대비 LPIPS 25-34%, DISTS 21-43% 개선과 함께 합성 시간을 3자릿수 수준으로 줄였다. SimpleFold는 복잡한 전용 구조 대신 표준 transformer block만으로 단백질 접힘을 풀어내는 접근을 제시하고, 코드와 체크포인트를 제공해 Apple silicon + MLX에서 로컬 실행할 수 있게 했다.

전시 부스 #204에서는 SHARP 데모와 함께 MLX 기반 로컬 LLM inference를 직접 체험할 수 있다. Apple은 또한 Women in Machine Learning(WiML), Queer in AI 같은 affinity group 행사도 후원·참여하며, ICLR 현장에서 연구 발표와 커뮤니티 지원을 동시에 이어간다.