AI의 악의적 사용 차단: 2025년 10월

OpenAI는 인류에게 유익한 AGI를 목표로 하며, 이를 위해 악의적인 AI 사용으로부터 사람들을 보호하는 민주적 AI를 구축하고 있다.

2024년 2월부터 시작된 공개 위협 보고를 통해 현재까지 정책을 위반한 40개 이상의 네트워크를 차단했다. 주요 위반 사례로는 권위주의 정권의 인구 통제 및 타국 압박, 사기, 악성 사이버 활동, 은밀한 영향력 행사 등이 포함된다.

최근 위협 행위자들은 AI를 통해 완전히 새로운 공격 능력을 확보하기보다는, 기존의 공격 방식(playbook)에 AI를 결합하여 실행 속도를 높이는 데 집중하고 있다.

OpenAI는 정책 위반 활동이 감지될 경우 계정 차단 조치를 취하며, 적절한 경우 파트너들과 관련 정보를 공유한다. 이러한 공개 보고와 정책 집행은 일반 사용자를 위한 보호 기능을 개선하고 남용에 대한 인식을 높이는 것을 목표로 한다.