OpenAI, Promptfoo 인수

OpenAI가 AI 시스템의 취약점을 식별하고 해결하는 데 도움을 주는 AI 보안 플랫폼 Promptfoo를 인수한다. 인수 완료 후 Promptfoo의 기술은 AI 코워커(coworker)를 구축하고 운영하는 플랫폼인 OpenAI Frontier에 직접 통합될 예정이다.

기업들이 AI 에이전트를 실제 워크플로우에 도입함에 따라, 에이전트의 동작을 테스트하고 리스크를 탐지하며 거버넌스와 책임 소재를 관리할 수 있는 체계적인 평가 및 보안 체계가 필수적인 요구사항으로 떠오르고 있다.

OpenAI는 Frontier 플랫폼을 통해 다음과 같은 핵심 기능을 제공할 계획이다:

• 플랫폼 내 보안 및 안전 테스트: 프롬프트 인젝션, 탈옥(jailbreak), 데이터 유출, 도구 오용 및 정책 위반 행동과 같은 리스크를 식별하고 해결하기 위한 자동화된 보안 테스트 및 레드팀(red-teaming) 기능 제공
• 개발 워크플로우 통합: 에이전트 리스크를 조기에 식별, 조사 및 해결할 수 있도록 보안을 개발 및 운영 프로세스의 핵심 요소로 통합
• 감독 및 책임성: 통합된 보고 및 추적 기능을 통해 테스트 결과를 문서화하고, 변화를 모니터링하며, AI 거버넌스 및 컴플라이언스 요구사항 충족 지원

Promptfoo 팀은 Fortune 500 기업의 25% 이상이 사용하는 도구와 널리 쓰이는 오픈소스 CLI 및 라이브러리를 보유하고 있다. OpenAI는 기존 오픈소스 프로젝트를 지속적으로 유지하는 동시에 Frontier 내 기업용 기능을 고도화할 예정이다.