AI BriefingSafeAgents, 로컬에서 코딩 에이전트 위험 도구 호출 차단
SafeAgents: an open-source proxy that checks every tool call your coding agent makes before it runs
·2026.10.29 21:05
핵심 내용
SafeAgents는 로컬에서 코딩 에이전트의 위험한 도구 호출을 차단하는 오픈소스 프록시이다.
자세히 보기
- SafeAgents는 코딩 에이전트와 모델 서버 사이에 배치되는 오픈소스 로컬 프록시로, 도구 호출이 하네스에 도달하기 전에 이를 가로채는 구조임
- 시스템은 호출당 최대 3단계 검사를 수행하며, 도구 선언 검증, 미선언 호스트 확인, 샌드박스 탈출 및 리워드 해킹 탐지를 위한 약 110개의 결정론적 탐지기를 활용한 atif-scan 실행을 포함함
- 로컬 검사는 M 시리즈 Mac에서 10~20ms에 완료되며, 에이전트 추론이나 도구 출력을 노출하지 않고 경미한 발견 사항을 처리하기 위해 선택적 judge 모델을 사용할 수 있음
- OpenAI Chat Completions 및 Anthropic Messages API를 지원하며, pi, Claude Code, OpenHands를 포함한 12개 하네스에 대한 설정 가이드와 6개 하네스에 대한 엔드투엔드 CI 테스트를 제공함
- 초기 배포 시 궤적을 변경하지 않고 시도 사항을 기록하기 위해 --log-only 모드 사용을 권장하며, 프로젝트는 Apache 2.0 라이선스를 적용함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
