OpenAI o3 및 o4-mini 시스템 카드
OpenAI가 추론 능력과 도구 활용 능력을 결합한 o3 및 o4-mini 모델의 시스템 카드를 공개했다.
OpenAI o3와 o4-mini는 최첨단 추론 능력과 웹 브라우징, Python, 이미지 및 파일 분석, 이미지 생성, canvas, 자동화, 파일 검색, 메모리 등 다양한 도구 활용 능력을 결합한 모델이다. 이 모델들은 복잡한 수학, 코딩, 과학적 과제를 해결하는 데 탁월하며, 사고 과정(Chain of Thought) 중에 이미지를 편집하거나 웹을 검색하는 등 도구를 직접 사용하여 능력을 확장한다.
OpenAI o-series 모델은 사고 과정에 대한 대규모 **강화 학습(Reinforcement Learning)**을 통해 훈련되었다. 이러한 고도화된 추론 능력은 모델의 안전성과 견고함을 개선하는 새로운 경로를 제공하며, 특히 모델이 잠재적으로 안전하지 않은 프롬프트에 대응할 때 문맥에 따라 안전 정책을 추론할 수 있는 심사숙고형 정렬(Deliberative Alignment) 기능을 지원한다.
이번 발표는 Preparedness Framework Version 2 하에서 출시된 첫 번째 시스템 카드다. OpenAI의 **안전 자문 그룹(SAG)**은 평가 결과, o3와 o4-mini가 생물학적·화학적 능력, 사이버 보안, AI 자기 개선 등 세 가지 추적 카테고리에서 '높음(High)' 임계값에 도달하지 않았음을 확인했다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.