Deep research 시스템 카드
·2025.02.25 19:00
핵심 내용
OpenAI가 웹 브라우징 기반 에이전트 기능인 Deep research의 안전성 평가 및 완화 조치를 담은 시스템 카드를 공개했다.
자세히 보기
Deep research는 인터넷에서 복잡한 과업을 수행하기 위해 다단계 조사를 수행하는 새로운 에이전트 기능이다. 웹 브라우징에 최적화된 OpenAI o3의 초기 버전을 기반으로 하며, 방대한 양의 텍스트, 이미지, PDF를 검색하고 해석 및 분석할 수 있다.
이 모델은 사용자가 제공한 파일을 읽을 수 있을 뿐만 아니라, Python 코드를 직접 작성하고 실행하여 데이터를 분석하는 기능도 갖추고 있다. 또한 탐색 과정에서 마주치는 정보에 따라 검색 방향을 유연하게 전환하는 추론 능력을 활용한다.
OpenAI는 출시 전 외부 레드팀 테스트와 Preparedness Framework에 따른 프런티어 리스크 평가를 진행했다. 특히 온라인상에 게시된 개인정보 보호를 강화하고, 검색 중 발생할 수 있는 악의적인 지시를 거부하도록 모델을 학습시키는 등 새로운 안전 완화 조치를 도입했다.
모델의 안전성은 Low, Medium, High, Critical 단계로 평가된다. 완화 조치 후 점수가 Medium 이하인 모델만 배포가 가능하며, High 이하인 모델에 한해 추가 개발을 진행할 수 있다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.