ISO 42001과 AI 개발

AI21 Labs가 AI 클라우드 플랫폼을 개발·운영하는 기업 가운데 처음으로 ISO 42001 인증을 획득했다. 회사는 이미 ISO27001, ISO27017, ISO27018과 두 번째 SOC2를 보유하고 있으며, 보안 책임자 Nissim Maatouk가 이 체계를 이끌었다.

ISO 42001은 AI를 사용하는 기업이 아니라 AI를 만드는 기업의 책임과 통제를 다루는 프레임워크다. AI21 Labs는 이 인증이 개발 과정의 품질, 투명성, 보안, 데이터 프라이버시를 입증하는 장치라고 강조했다.

적용 범위는 다음과 같다.

• Jamba 모델군, API, SDK, 브라우저 플러그인, Studio까지 포함
• **Google Cloud Platform (GCP)**와 Kubernetes 기반의 확장형 AI 클라우드 플랫폼 운영
• Studio의 RAG 워크플로우와 API key 연동으로 배포, 식별, 사용량, 과금 관리 지원

기술 검증에서는 기술 책임자 Daniel Gissin이 Meta의 Llama 등과의 비교와 500개 테스트 케이스 기반 평가를 언급했다. CTO Barak Lenz가 이끄는 데이터 팀은 사전학습 단계에서 언어, 아키텍처, 머신 타깃을 조정하고 data poisoning과 inversion attacks 대응을 반영했다.

모델은 traceless mode로 동작하며, 결과를 교차 검증하는 방식과 alignment benchmarking으로 hallucination을 줄이도록 설계됐다. 회사는 이런 설계가 고객 인프라 배포와 책임 있는 AI 개발에 대한 신뢰를 높인다고 밝혔다.