국가 지원 위협 행위자의 악의적인 AI 활용 차단

OpenAI는 Microsoft Threat Intelligence와 협력하여 AI 서비스를 악용해 사이버 활동을 수행하려 한 5개의 국가 지원 위협 행위자를 적발하고 관련 계정을 차단했다.

적발된 행위자는 중국의 Charcoal Typhoon 및 Salmon Typhoon, 이란의 Crimson Sandstorm, 북한의 Emerald Sleet, 러시아의 Forest Blizzard다.

이들은 주로 다음과 같은 목적으로 서비스를 이용했다:

• OSINT(공개 출처 정보) 조사 및 기술 문서 번역
• 코드 디버깅, 스크립트 생성 및 프로그래밍 지원
• 피싱(Phishing) 캠페인용 콘텐츠 작성
• 악성코드 탐지 회피 및 시스템 은닉 방법 연구

이번 조사 결과, GPT-4는 기존의 비 AI 도구와 비교했을 때 악의적인 사이버 보안 작업에 있어 제한적이고 점진적인 능력만을 제공하는 것으로 나타났다. OpenAI는 모니터링 강화, AI 생태계 협력, 안전 완화 조치 반복을 통해 이러한 위협에 대응할 계획이다.