AI BriefingDouble AI, 학습 중 아키텍처 재설계로 LLM 자기 개선 가능성 제시
·2026.11.06 21:00
핵심 내용
DeepSeek-V4.1-Flash가 학습 중 자체 코드 레이어를 재작성해 수학 정확도를 7%p 높였다
자세히 보기
- Double AI가 'mechanistic intervention'을 도입함. AI 에이전트가 학습 루프 중 내부 네트워크 상태를 읽고 'code layers'를 삽입하거나 아키텍처를 실시간으로 수정하며, 'phantom gradient' 도구를 활용해 표현의 미충족 수요를 매핑함.
- 'Closing the loop' 실험에서 DeepSeek-V4.1-Flash(763B MoE)가 자체 에이전트 역할을 수행함. 숨겨진 상태를 읽고 정답이 아닌 답을 거부하는 code layer를 설계하여 thinking mode 없이 AIME 2026과 HMMT 2026 정확도를 64%에서 71%로 향상시킴.
- 타이밍이 중요함. 학습 초기에 code layers를 포함하면 네트워크가 해당 레이어에 의존하는 'shortcut learning'이 발생하지만, 학습 중반에 삽입하는 것이 더 나은 결과를 냄.
- code layers는 학습 시간 배증보다 'jaggedness'(학습에서 보지 못한 입력 크기에서의 실패)를 더 효과적으로 해결함. CLRS-Text에서 code layers를 확장하면 gap problem 정확도가 33%에서 79%로 상승하는 반면, 표준 학습은 55%에서 정체됨.
- 삽입된 로직이 사람이 읽을 수 있어 'alignment through code'가 가능함. 모델이 프로브와 code layers를 도구 라이브러리로 축적하여 자기 학습 과정을 개선하는 재귀적 자기 개선(recursive self-improvement)을 실현함.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
