ChatGPT에 Lockdown Mode 및 'Elevated Risk' 레이블 도입

AI 시스템이 웹 및 연결된 앱과 상호작용하며 복잡한 작업을 수행함에 따라 프롬프트 인젝션(Prompt Injection) 공격 위험이 커지고 있다. 이는 공격자가 AI를 속여 악성 명령을 수행하거나 민감한 정보를 유출하도록 유도하는 공격 방식이다.

OpenAI는 이러한 위험을 완화하기 위해 두 가지 새로운 보호 기능을 도입한다.

• Lockdown Mode: 고위험군 사용자를 위한 고급 보안 설정이다. ChatGPT가 외부 시스템과 상호작용하는 방식을 엄격히 제한하여 데이터 유출 위험을 줄인다. 예를 들어, 웹 브라우징 시 실시간 네트워크 요청 대신 캐시된 콘텐츠만 사용하도록 제한한다.
• 'Elevated Risk' 레이블: ChatGPT, ChatGPT Atlas, Codex의 특정 기능에 적용된다. 추가적인 위험을 초래할 수 있는 기능에 레이블을 표시하여 사용자가 위험을 인지하고 선택할 수 있도록 돕는다.

Lockdown Mode는 현재 ChatGPT Enterprise, Edu, Healthcare, Teachers 플랜에서 관리자가 설정할 수 있으며, 향후 일반 소비자용으로도 출시될 예정이다.