매개변수 1,023개 수정으로 정확도 29.45%p 향상시킨 WSP

[Paper] Exploring Weight-Space Programming: Capabilities, Generalization, and Limitations

·2026.11.10 21:02

핵심 내용

WSP가 매개변수 1,023개 수정으로 최대 29.45%p 정확도 향상을 달성했다

WSP는 매개변수 1,023개만 수정하여 MATH-500에서 최대 29.45%p의 정확도 향상을 달성하며, 고도로 국소화된 개입 가능성을 입증함
과제 간 일반화 성능은 불균형하여, 수학 편집 체크포인트는 GPQA Diamond, IFEval, SciBench에서 각각 3.03, 12.18, 20.10점 향상되었으나 SciCode 성능은 변화 없음
편집 신뢰성은 여전히 과제로, 16개 트래젝션 중 6개는 후보 개선 사항의 신뢰성 있는 검증 실패로 인해 원래 가중치를 유지함
Qwen3.5-0.8B와 Qwen3.5-9B 모델에서 7개 벤치마크로 수행한 실험은 다양한 편집 트래젝션 간 결과에 상당한 편차가 있음을 보여줌

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.