AI Briefing

책임의 분산: Weight Transport 없이 Dale의 원칙을 준수하는 학습법

·2026.07.20 09:00

Dale의 원칙을 따르면서도 Weight Transport 문제 없이 학습 가능한 새로운 신경망 학습 메커니즘을 제안했다.

실제 뉴런은 흥분성 또는 억제성 중 하나의 특성을 주로 갖는 Dale's principle을 따르지만, 기존 인공 신경망은 모든 유닛이 양수와 음수 가중치를 혼합하여 사용하는 한계가 있었다. 또한, Backpropagation은 순전파 가중치의 전치 행렬이 역전파 시 필요하다는 Weight Transport problem을 안고 있다.

본 연구에서는 Error Diffusion (ED) 방식을 확장하여, 가중치 전송 없이도 Dale의 원칙을 엄격히 준수하며 학습할 수 있는 방법을 제시한다. 각 레이어를 별도의 흥분성 및 억제성 스트림으로 분리하고, Modulo error routing을 통해 다중 클래스 문제에서도 효과적으로 작동하도록 설계했다.

이 메커니즘은 강화 학습 환경인 PPO 학습에서도 유효함을 입증했다. Ant, Humanoid, HalfCheetah 환경에서 테스트한 결과, 제안된 Modulo routing 방식이 실제 Backpropagation 그래디언트와 가장 높은 일치도를 보였다. 이는 생물학적으로 더 타당하면서도 효율적인 학습 규칙을 향한 가능성을 보여준다.

이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.

요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.