Anthropic, 생물학적 무기 개발 가능한 AI의 '악의적 사용' 차단

Anthropic이 2025년 12월부터 2026년 8월까지의 기간을 다룬 최신 Threat Intelligence Report를 공개하며, 자사 모델(Claude Haiku, Sonnet, Opus)의 악용 차단 사례를 상세히 밝혔다. 보고서는 생물학적 무기 개발 지원 가능성을 '프런티어 AI의 가장 심각한 리스크 중 하나'로 규정하고, 이중 용도 정보로 인한 차단의 어려움을 강조했다.

주요 악용 사례 및 대응

• 생물학적 무기: 5건의 사례 연구가 확인되었으며, 백신/치료제 개발과 무기 개발의 경계가 모호해 차단이 매우 복잡한 상황으로 평가됨.
• 재래식 무기: 화기, 미사일, 무장 드론 등 6건의 개발 지원 사례가 확인됨.
• 사이버 공격: 러시아 연계 해킹 그룹 Midnight Blizzard가 보안 방어 시스템에 탐지된 악성 코드를 AI로 자동 재작성하여 탐지를 회피하는 시스템을 구축한 것으로 추정됨.
• 기타: ShinyHunters 해킹 그룹, 중국 기반 연구소(모델 복제 시도), 이란 선전 기관 등의 악용 사례가 포함됨.

Anthropic은 이러한 발견을 향후 예방 및 탐지 프로세스에 반영하고, 필요시 당국 및 업계와 정보를 공유하겠다고 밝혔다.

업계 및 정치권 반응

이번 보고서 발표는 OpenAI 수석 과학자 Jakub Pachocki가 안전장치 마련 전까지 업계의 자발적 속도 조절을 촉구한 직후에 이루어졌다. 이에 따라 영국에서는 초지능 개발을 위한 다국적 조약 체결을 촉구하는 서한이 발송되었으며, 미국에서는 Bernie Sanders 상원의원이 고급 AI 개발 중단을 골자로 하는 법안을 발의하는 등 규제 논의가 가속화되고 있다.