GPT-6 Astra, 가중치 공간 프로그래밍으로 Qwen3.5-0.8B 수학 성능 6배 향상
LLM은 신경망 가중치를 읽고 쓸 수 있을까요?
·2026.11.03 16:39
핵심 내용
GPT-6 Astra가 학습 없이 Qwen3.5-0.8B 가중치를 수정해 MATH-500 점수를 48.1%까지 높였다.
자세히 보기
- LLM이 신경망 가중치를 읽고 쓰는 '가중치 공간 프로그래밍' 기법 최초 시연
- Qwen3.5-0.8B의 추론 반복 문제를 가중치 0.016% 수정으로 해결
- MATH-500 점수 7.9%에서 48.1%로 상승, IFEval 점수 3배 증가
- PPO로 1억 스텝 훈련된 네트워크보다 뛰어난 소규모 플레이 신경망 작성
- Breakout 게임 학습된 네트워크를 가중치 17,253개만 보고 99% 확신으로 식별
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.