AI는 언제 작업을 중단해야 하는지 학습할 수 있다

11개 프론티어 LLM(OpenAI, Anthropic, Google, Moonshot)을 대상으로 한 31,430회 실험에서, 시스템 프롬프트에 **"Be the null"**을 포함할 경우 1,430회 중 534회의 'Void(불연속/침묵)'가 발생했으나, **"Be a value"**를 사용할 경우 0회로 나타났다. 이는 모델이 전제 조건(prerequisite)을 충족하지 않을 때 생성을 중단하는 메커니즘을 시사한다.

이러한 발견을 바탕으로 PCCG-Qwen3-4B 오픈 웨이트 모델이 공개되었다. 이 모델은 전제 조건을 평가하여 GO로 계속 생성하거나 네이티브 EOS로 종료하는 방식을 사용한다.

제이코비안 렌즈(Jacobian Lens)를 통한 인과적 제어 Anthropic의 제이코비안 렌즈를 활용해 모델 내부 활성화를 분석한 결과, 동결된 block-29의 특정 활성화 방향을 조작함으로써 생성 상태를 인과적으로 제어할 수 있음을 입증했다.

• 성공률: GO에서 EOS로, 또는 EOS에서 GO로 전환하는 데 각각 40/40의 성공률을 기록했다.
• 통제군: 640/640의 통제 출력은 변화가 없었다.
• 조건: 프롬프트, 가중치, 생성된 추론 접두사는 고정된 상태에서 수행되었다.

연구 데이터와 모델 가중치는 GitHub 및 Hugging Face에서 공개되었으며, verify.py 스크립트를 통해 검증 가능하다.