AI Briefing

Deep research 시스템 카드

·2025.02.25 19:00

OpenAI가 웹 브라우징 기반 에이전트 기능인 Deep research의 안전성 평가 및 완화 조치를 담은 시스템 카드를 공개했다.

Deep research는 인터넷에서 복잡한 과업을 수행하기 위해 다단계 조사를 수행하는 새로운 에이전트 기능이다. 웹 브라우징에 최적화된 OpenAI o3의 초기 버전을 기반으로 하며, 방대한 양의 텍스트, 이미지, PDF를 검색하고 해석 및 분석할 수 있다.

이 모델은 사용자가 제공한 파일을 읽을 수 있을 뿐만 아니라, Python 코드를 직접 작성하고 실행하여 데이터를 분석하는 기능도 갖추고 있다. 또한 탐색 과정에서 마주치는 정보에 따라 검색 방향을 유연하게 전환하는 추론 능력을 활용한다.

OpenAI는 출시 전 외부 레드팀 테스트와 Preparedness Framework에 따른 프런티어 리스크 평가를 진행했다. 특히 온라인상에 게시된 개인정보 보호를 강화하고, 검색 중 발생할 수 있는 악의적인 지시를 거부하도록 모델을 학습시키는 등 새로운 안전 완화 조치를 도입했다.

모델의 안전성은 Low, Medium, High, Critical 단계로 평가된다. 완화 조치 후 점수가 Medium 이하인 모델만 배포가 가능하며, High 이하인 모델에 한해 추가 개발을 진행할 수 있다.

이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.

요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.