생물학 분야의 미래 AI 리스크에 대비하기

AI 모델은 신약 개발, 백신 설계, 효소 제작 등 생물학적 발견을 가속화할 수 있는 강력한 잠재력을 지녔다. 하지만 동시에 생물학적 데이터를 추론하거나 화학 반응을 예측하는 능력이 생물 무기 제조와 같은 악의적인 목적으로 오용될 수 있는 이중 용도(dual-use) 문제를 안고 있다.

OpenAI는 향후 모델이 생물학 분야에서 'High' 수준의 역량에 도달할 것으로 예상하며, 이를 방지하기 위한 다각적인 접근 방식을 추진 중이다. 주요 전략은 다음과 같다:

• 생물학적 역량 발전에 대한 책임 있는 접근 방식 개발
• 정부 기관 및 국립 연구소 등 외부 전문가와의 협력
• 이중 용도 생물학적 요청을 안전하게 처리하도록 모델 학습
• 탐지, 모니터링 및 집행 시스템 구축
• 전문가를 통한 적대적 레드팀(red-teaming) 테스트 및 보안 제어 배포

OpenAI는 예방을 최우선으로 하며, US AISI, UK AISI, Los Alamos National Lab 등과 협력하여 생물 보안 위협 모델과 역량 평가를 고도화하고 있다. 또한, 전문가들이 참여하는 레드팀 테스트와 실험실 환경에서의 AI 역할을 연구하며 실질적인 방어 체계를 구축하고 있다.