말로 컴파일

**ProgramAsWeights(PAW)**는 평문 영어로 적은 함수 설명을 받아, 이를 LoRA adapter + discrete pseudo-program 조합의 neural program으로 컴파일한다.

핵심은 추론 시 고정된 interpreter를 적응시키는 방식이다. task별 가중치는 interpreter에 직접 학습되지 않고, 컴파일러가 스펙을 한 번에 프로그램 형태로 내보낸다.

• interpreter: Qwen3 0.6B 또는 GPT-2 124M
• compiler: Qwen3-4B를 finetune해 스펙을 입력받아 LoRA weights + pseudo-program을 출력
• 학습 데이터: GPT-5.2로 합성한 1,000만 개의 (설명, 입력, 출력) 삼중항
• 컴파일 시점: gradient descent 없이 단일 forward pass로 프로그램 생성

대표 사례로, “힌트를 보고 비밀 단어를 맞히는” fuzzy function을 구현해 브라우저 게임 Alien Taboo로 공개했다.

벤치마크 FuzzyBench에서 성능은 다음과 같다.

• PAW + Qwen3 0.6B interpreter: 73.4%
• Qwen3 0.6B raw prompting: 9.8%
• Qwen3 32B raw prompting: 68.7%

즉, PAW가 적용된 0.6B 모델이 50배 큰 32B raw prompting보다 높은 정확도를 보였다. 또한 GPT-2 interpreter 조합은 브라우저에서 WebAssembly로 돌릴 수 있을 만큼 작아, 134MB base + 프로그램당 약 5MB 수준으로 로컬 실행 가능성을 보여준다.