AI BriefingVeriLoop, AI 에이전트 자체 코드 승인 방지 도구 Voder 출시
Challenging DeepSeek Harness: Exploring a Safety Architecture for Artificial Superintelligence
·2026.11.15 16:57
핵심 내용
VeriLoop이 AI 에이전트의 자체 코드 승인 문제를 방지하기 위해 Voder를 출시했다.
자세히 보기
- VeriLoop이 자율 AI 시스템의 안전성 취약점을 해결하기 위해 설계된 VeriLoop-Governed Recurrence(VGR)의 첫 번째 엔지니어링 구현체인 Voder를 오픈소스로 공개함
- DeepSeek Harness(DSH)의 소스 수준 분석 결과, 실행이 거부된 경우에도 코드 변경 사항이 워크스페이스에 영구적으로 유지되는 기본 실행 경로가 발견됨
- VGR은 독립적 검증과 증거 기반 검증을 통해 어떤 수정 사항이 영구화되는지 결정하는 '자기 수정은 하되 자기 승인하지 않는다'는 원칙을 구현함
- Voder에서 DeepSeek V4.1 Flash의 벤치마크 결과는 DeepSWE v1.1에서 78.8%, Terminal-Bench 3.0에서 41.9%, Terminal-Bench 4.0에서 45.5%, SWE-Marathon에서 45.0%를 기록함
- Voder는 GitHub과 VS Code 마켓플레이스에서 오픈소스로 제공되며, 기술 논문은 OpenReview에서 확인 가능함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
