AI2, 벤치마크 분석법 공개

Allen Institute for AI(AI2)가 LLM 벤치마크의 개별 프롬프트 수준에서 실제 측정 능력을 분석하는 새로운 방법론 BenchMIRT를 공개했다. 기존 벤치마크는 특정 능력(예: 안전성, 추론)을 측정하도록 설계되었으나, 내부의 개별 질문들이 의도하지 않은 다른 능력에 의존하거나 혼합된 신호를 포함할 수 있다는 문제를 해결하기 위해 개발되었다.

핵심 기술 및 분석 방식

BenchMIRT는 심리측정학의 **Item Response Theory(IRT)**를 확장한 다차원 IRT(MIRT)를 적용한다. 이를 통해 모델과 질문 수준에서 성능을 분석하며, 특정 질문을 맞히는 데 어떤 잠재적 능력(capability)이 가장 밀접하게 연관되어 있는지 추정한다. 연구팀은 100개의 LLM과 16개 벤치마크의 3만 4천 개 이상의 질문 데이터를 학습하여, 안전성(safety)과 일반 추론(general reasoning)이라는 두 가지 주요 차원을 독립적으로 복원해냈다.

기존 벤치마크에 대한 통찰

분석 결과, 일부 벤치마크는 의도와 달리 다른 능력과 더 강하게 연관되는 것으로 나타났다.

• BBQ: 사회적 편견을 테스트하는 안전성 벤치마크로 분류되지만, BenchMIRT 분석에서는 일반 추론 능력과 더 강하게 연관됨. 낮은 점수가 안전성 문제보다는 질문 이해 및 추론 난이도 때문일 수 있음을 시사한다.
• WMDP: 생물학, 화학 등 위험한 이중 용도 지식을 테스트하지만, 점수가 일반 추론과 더 강하게 연관됨. 다만, 위험한 지식을 거부하는 것이 원하는 응답이므로 일반 추론 능력이 높을수록 점수가 낮게 나오는 역상관 관계를 보인다.
• HarmBench: 단일 벤치마크 내에서도 표준 질문과 맥락 기반 질문이 서로 다른 신호를 혼합하고 있음을 확인했다.

BenchMIRT는 벤치마크 점수의 평균화가 가리는 세부적인 능력 차이를 분리해냄으로써, LLM 평가의 정확성과 투명성을 높이는 데 기여할 것으로 기대된다.