EmDash, Cloudflare Clef 통합으로 플러그인 레지스트리 자동 심의 강화

EmDash가 공식 플러그인 레지스트리에 Cloudflare의 Clef 결정 모델을 통합해 신규 등록 항목을 자동 심의한다. 이 시스템은 메타데이터, 링크, 아이콘, 스크린샷을 스캔해 피싱, 사칭, 사기, 유해 콘텐츠 위험을 사전에 차단한다. 이를 통해 EmDash는 저자가 자신의 계정에서 서명된 릴리스를 발행하는 AT Protocol의 탈중앙화 특성을 유지하면서도 안전한 레지스트리를 관리할 수 있다.

EmDash에서의 Clef 작동 방식

Clef는 텍스트와 이미지 입력을 모두 지원하며, 제한된 질문에 대해 유형화된 확률로 답변하도록 설계된 결정 모델이다. 플러그인이 게시되면 EmDash 라벨러는 Clef에 다음을 질의한다.

• 명시적 콘텐츠, 혐오 발언, 피싱, 심의 조작을 다루는 텍스트 및 링크 관련 9가지 질문
• 유사한 위험에 대해 시각 자산을 평가하는 각 아이콘 및 스크린샷에 대한 8가지 질문

링크는 정당한 보안 도구로 인한 오탐지를 피하기 위해 스크린샷이 아닌 텍스트와 목적지를 기준으로 분석한다. Clef가 어떤 카테고리에서든 0.45 이상의 확률을 반환하면 해당 항목은 인간 검토 대상으로 플래그가 지정된다. 이 모델은 플러그인을 즉시 차단할 권한이 없으며, 수동 검사를 트리거하는 역할만 한다.

성능 및 평가

EmDash는 텍스트와 이미지에 대해 별도 처리가 필요했던 기존 다중 모델 파이프라인을 대체했다. 내부 평가 결과 Clef는 기준선 및 성능이 저조했던 Jev 같은 다른 테스트 모델보다 우수한 성능을 보였다. 주요 평가 지표는 다음과 같다.

• 63회 실행된 21개의 공개 텍스트 픽스처에서 100% 정확도 달성, 무효 출력 없음
• p95 기준 텍스트 심의 엔드투엔드 지연 시간 1.64초
• 현재 레지스트리에 등록된 37개 플러그인 프로필 및 43개 목록 이미지 모두 성공적으로 심의

이 통합은 모든 심의 작업에 단일 멀티모달 모델을 사용함으로써 인프라를 단순화하고, 지연 시간과 잠재적 장애 지점을 줄이면서 인간 검토로 이어지는 fail-closed 경로를 유지한다.