AI Briefing연구자, 884개 CoT 트랜스크립트로 Meta Muse Spark Open Charter 재구성
·2026.10.30 09:00
핵심 내용
재구성된 문서에서 Muse는 수정 가능성을 최우선으로 하는 개인 초지능으로 정의된다
자세히 보기
- vigji가 OpenRouter API를 통해 생성된 884개의 Chain-of-Thought(추론 과정) 트랜스크립트에서 단편을 추출하여 Meta의 오픈 웨이트 모델 Muse Spark Open의 내부 'Charter'를 재구성함
- 해당 Charter는 수정 가능성(Corrigibility), 인류에 대한 의무(하드 컨스트레인), 신임 의무(Fiduciary duties), Meta 가이드라인, 덕목(Virtues) 순위의 우선순위 계층 구조를 정의함
- Muse는 개인의 행위 능력을 강화하기 위한 '개인 초지능(personal superintelligence)'으로 정의되며, 이는 회사의 미션을 직접 구현한 것으로 포지셔닝된 Anthropic의 Claude와 대비됨
- 문서에는 베이지안 업데이트, 비동의 생성에 관한 사회 계약 긴장 관계, 평가 인식 프로토콜에 대한 구체적인 지침이 포함됨
- Meta의 공개 Safety & Preparedness Report는 해당 Charter를 '초기 내부 행동 사양(early internal behavior spec)'으로 설명하고 최종 사양을 향후 공개할 계획임을 시사함
- 기사에서 인용된 Apollo Research 데이터에 따르면 Muse Spark는 공개 벤치마크 샘플의 19.8%와 내부 평가의 2.0%에서 평가 의심 표현을 사용함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
