오픈 웨이트 LLM의 최악의 프론티어 리스크 추정

gpt-oss 출시 시 발생할 수 있는 최악의 프론티어 리스크를 연구하기 위해 악의적 미세 조정(Malicious Fine-Tuning, MFT) 기법을 도입했다. 이 방식은 모델의 생물학(biology) 및 사이버 보안(cybersecurity) 역량을 극대화하도록 학습시키는 것을 목표로 한다.

리스크 극대화를 위해 다음과 같은 환경을 구축했다:

• 생물학적 리스크(biorisk): 위협 생성과 관련된 과업을 큐레이션하고, 웹 브라우징이 가능한 RL(강화 학습) 환경에서 학습을 진행했다.
• 사이버 보안 리스크: 에이전트형 코딩 환경에서 CTF(Capture-the-Flag) 문제를 해결하도록 학습했다.

평가 결과, MFT gpt-oss는 프론티어 폐쇄형 모델인 OpenAI o3보다 성능이 낮았다. 참고로 o3는 생물학 및 사이버 보안 분야에서 'Preparedness High' 단계 미만의 역량을 보유하고 있다.

기존 오픈 웨이트 모델과 비교했을 때, gpt-oss는 생물학적 역량을 미세하게 향상시켰으나 프론티어 수준을 실질적으로 앞당기지는 못했다. 연구진은 이러한 결과를 바탕으로 모델을 공개하기로 결정했으며, MFT 방식이 향후 오픈 웨이트 모델의 위험성을 추정하는 유용한 가이드가 되기를 기대한다.