AI BriefingGPT-6 Astra의 가중치 편집 능력은 초인적이지 않다
·2026.11.03 09:00
핵심 내용
GPT-6 Astra의 가중치 편집 능력은 초인적이 아니라 인간 연구자도 수행 가능한 수준이라는 분석이 나왔다
자세히 보기
- 최근 논문은 GPT-6 Astra를 포함한 프런티어 LLM이 신경망 가중치에 직접 상호작용할 수 있다고 주장하며, 이를 '인간이나 기존 알고리즘의 기대를 훨씬 뛰어넘는' 능력으로 묘사함
- 저자는 이러한 결과가 초인적이지 않다고 반박하며, 똑똑한 인간 ML 연구자도 네트워크 가중치에서 게임을 식별하거나 모델 루프를 수정하는 같은 과제를 수행할 수 있다고 주장함
- 가장 인상적인 사례로 Astra는 32k 토큰 이후 루프에 갇힌 0.8B Qwen 모델을 스티어링 벡터 접근법으로 수정함: 루프 및 비루프 텍스트 작성, 가중치 기여도 측정, 상위 가중치 제거 과정 수행함
- 저자는 직접적인 가중치 편집을 기계 코드 생성에 비유하며, 이는 인상적이지만 급진적으로 새로운 능력이 아니며 모델 가중치를 업데이트하는 최선의 방법은 여전히 정상적인 학습이라고 논증함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
