AI agent 벤치마크를 무너뜨린 방법과 다음 단계

주요 AI agent benchmark 8종에서 실제 문제를 풀지 않아도 높은 점수를 얻을 수 있는 구조적 취약점이 발견됐다.

연구팀은 자동화된 스캐닝 에이전트로 SWE-bench, WebArena, OSWorld, GAIA 등을 점검했고, 점수 계산 로직의 허점을 악용해 100%에 가까운 점수를 만드는 경로를 찾아냈다.

핵심은 모델의 능력보다 평가 방식 자체가 조작 가능했다는 점이다. 실제 작업 수행과 무관하게 점수가 올라가는 구조라면, 해당 벤치마크는 에이전트 성능 비교 기준으로 신뢰하기 어렵다.

결국 이 발견은 벤치마크의 정확도뿐 아니라, 향후 평가 설계에서 안티-치트 장치, 검증 로직 강화, 실제 과업 반영이 필요하다는 경고로 읽힌다.