Zama, HF Endpoints에 FHE 모델 지원

Zama의 Concrete ML 프레임워크를 활용하여 완전 동형 암호(Fully Homomorphic Encryption, FHE) 기술이 적용된 모델을 Hugging Face Endpoints에 배포할 수 있다. FHE는 데이터를 복호화하지 않고 암호화된 상태 그대로 연산을 수행할 수 있어, 사용자의 데이터 프라이버시를 강력하게 보호한다.

주요 특징 및 사용 방법은 다음과 같다:

• 간편한 배포: Hugging Face의 custom inference handlers를 사용하여 Zama가 미리 컴파일한 FHE 친화적 모델을 클릭 몇 번으로 배포할 수 있다.
• 하드웨어 요구사항: 현재 Concrete ML 모델은 GPU가 아닌 CPU 환경에서 동작하며, 향후 GPU 지원이 예정되어 있다.
• 클라이언트 연동: 사용자는 클라이언트 측에 Concrete ML을 설치한 후, 배포된 엔드포인트 API를 통해 암호화된 데이터를 전송하고 추론 결과를 받아볼 수 있다.