Hugging Face, JFrog와 AI 보안 강화 협력

Hugging Face가 JFrog와 파트너십을 맺고, Hugging Face Hub의 보안성을 높이기 위해 JFrog의 스캐너를 플랫폼에 통합한다.

기존의 picklescan은 모듈 이름에 대한 패턴 매칭 방식만 사용하여 악성 여부를 확정하기 어려웠으나, JFrog 스캐너는 모델 가중치 내의 코드를 직접 파싱하고 분석하여 잠재적인 악성 사용 사례를 더 깊이 있게 탐지한다.

주요 특징은 다음과 같다:

• 탐지 범위 확대: Pickle뿐만 아니라 Keras Lambda 레이어 등 다양한 파일 형식의 취약점을 탐지한다.
• 오탐(False Positive) 감소: 단순 패턴 매칭이 아닌 코드 분석을 통해 보안 경고의 정확도를 높인다.
• 자동 적용: 모든 공개 모델 저장소에 자동으로 적용되며, 사용자가 별도의 설정을 할 필요가 없다.