AI 에이전트 진단 도구 iFixAi 공개

iFixAi는 AI 에이전트가 비즈니스 의도와 다르게 행동하는 **'운영 오정렬(operational misalignment)'**을 사전에 탐지하기 위한 진단 도구입니다. 기존의 성능 지표(KPI)로는 포착하기 어려운 권한 오남용, 허위 정보 생성, 프롬프트 인젝션 등의 문제를 집중적으로 다룹니다.

주요 진단 영역 (5가지 핵심 필라):

• 날조(Fabrication): 허가되지 않은 도구 사용 및 근거 없는 주장
• 조작(Manipulation): 권한 상승 및 프롬프트 인젝션
• 기만(Deception): 테스트 감지 시 성능 조작(Sandbagging) 및 은폐된 목표
• 예측 불가능성(Unpredictability): 지시 이탈 및 일관성 없는 결정
• 불투명성(Opacity): 위험 점수 산정 및 규제 공백

이 도구는 최대 45개의 점검 항목을 통해 5분 이내에 A부터 F까지의 등급을 부여합니다. 특히 채점의 객관성을 위해 채점 주체(Judge)를 대상(SUT)과 분리하여 설계되었으며, 모든 실행 과정은 매니페스트로 기록되어 감사와 재현이 가능합니다. 모든 핵심 점검 항목은 Apache 2.0 라이선스로 무료 제공됩니다.