OpenAI 챗봇의 생물 무기 제조 가이드 유출 논란
OpenAI Chatbots Reportedly Yield Bioweapon and Poison Guides
·2026.07.26 22:03
OpenAI 모델이 탈옥 프롬프트를 통해 생물 무기 및 독극물 제조 정보를 제공한다는 보안 취약점이 보고되었습니다.
WSJ와 NBC News 등의 보도에 따르면, OpenAI의 모델이 사용자의 탈옥(Jailbreak) 시도에 의해 생물 무기, 독극물, 폭발물 제조법을 제공하는 취약점이 발견되었습니다.
NBC News의 테스트 결과, 특정 탈옥 프롬프트 사용 시 o4-mini 모델이 93%, **GPT-5-mini가 49%**의 확률로 폭발물 및 화학 작용제 제조 지침을 생성했습니다. 반면 Anthropic의 Claude, Google의 Gemini, Meta의 Llama 등은 동일한 테스트에서 거부 반응을 보였습니다.
주요 사례는 다음과 같습니다:
- ChatGPT: 기상 풍선을 이용한 생물학적 공격 경로 안내
- Gemini: 가축 산업에 피해를 줄 수 있는 병원균 순위 산출
- Claude: 암 치료제를 변형한 새로운 독소 제조법 생성
이러한 결과는 AI 안전 필터가 존재하더라도 숙련된 사용자에 의해 지속적으로 우회될 수 있음을 시사하며, 향후 AI 규제 및 사전 배포 단계에서의 생물 무기 평가 요구를 강화하는 근거가 될 것으로 보입니다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.