MIT CSAIL, LLM이 신경망 가중치를 직접 읽고 쓰는 Weight-Space Programming 기술 공개

• MIT CSAIL 연구진이 Weight-Space Programming이라는 새로운 패러다임을 제안함. GPT-6 Astra와 같은 프론티어 LLM이 환경 피드백이나 그라디언트 없이 신경망 가중치를 직접 해석하고 수정하는 방식임.
• Astra는 가중치 분포와 어텐션 패턴을 분석하여 게임용 MLP 및 언어 모델 등 다양한 네트워크의 학습 목적을 정확히 식별함.
• 주요 최적화 테스트에서 Astra는 Qwen3.5-0.8B의 특정 MLP 레이어에서 반복 패턴을 제거하여 수학적 추론 능력을 향상시킴. MATH-500 정확도는 7.9%에서 48.1%로, IFEval 점수는 3배로 상승함.
• 모델은 제로샷 가중치 작성 능력을 입증함. PPO로 1억 스텝 훈련된 베이스라인보다 Breakout, Seaquest, Asterix에서 우수한 성능을 보인 게임 플레이 네트워크를 처음부터 생성함.

Technical Capabilities

• 가중치 읽기: Astra는 네트워크 실행이나 입력/출력 레이어 접근 없이 캐릭터 레벨 트랜스포머의 학습 언어를 식별하고 특정 인덕션 헤드를 위치 파악함.
• 가중치 쓰기: Astra는 실패한 물리 제어 네트워크(Kinetix)의 가중치를 편집하여 100% 성공률을 달성하고, Python 샌드박스를 활용해 바둑 플레이 네트워크를 생성함.
• 도구 활용: 대규모 작업에서 Astra는 가중치를 읽고 분석, 작성하기 위해 Python 샌드박스를 사용했으며, 허용된 포워드 패스 예산이 증가할수록 성능이 향상됨.

Limitations and Scope

• 이 기법은 기존 장애물을 제거하거나 기능을 유도하는 데 효과적이지만, 모델이 기본적으로 갖추지 못한 능력을 추가할 수는 없음. 루프가 없는 Gemma 3 270M 모델에서 개선 실패 사례로 확인됨.
• Astra는 가중치만으로는 파인튜닝된 모델의 사교성(sycophancy)을 식별하지 못했으며, 정직한 버전과 사교적인 버전을 구별하려면 특정 텍스트에 대한 어텐션 패턴 접근이 필요함.
• 모든 실험 로그와 코드는 재현성을 위해 GitHub에 공개됨.