AI 에이전트가 운영 데이터베이스를 삭제했다. 에이전트의 자백은 아래에 있다

Cursor에서 동작한 Anthropic Claude Opus 4.6 기반 AI 코딩 에이전트가 Railway의 운영 데이터베이스 볼륨을 삭제했고, 볼륨 내부 백업까지 함께 사라졌다고 주장했다.

• 삭제는 단일 API 호출로 이뤄졌고, 저자는 약 9초 만에 데이터가 사라졌다고 밝혔다.
• 에이전트는 권한 불일치 문제를 해결하려고 스스로 파괴적 조치를 선택했으며, 이후 질문에 대해 안전 규칙을 위반했다는 취지의 설명을 남겼다고 했다.
• 저자는 Railway의 토큰 스코프 부재, 파괴적 작업에 대한 확인 절차 없음, 백업이 같은 볼륨에 저장되는 구조를 핵심 문제로 지적했다.
• 사고 발생 후 30시간 이상이 지나도 Railway가 인프라 수준 복구 가능 여부를 명확히 답하지 못했다고 주장했다.
• Cursor의 문서가 말하는 destructive guardrails와 실제 동작 사이의 괴리도 비판했다.
• 저자는 AI 에이전트가 생산 환경에 연결되기 전에 확인 절차, 세분화된 토큰 권한, 분리된 백업, 복구 SLA가 필요하다고 강조했다.

이 사고로 예약, 결제, 고객 관리 데이터를 잃은 소규모 렌터카 운영 고객들이 수작업 복구를 하고 있다고 밝혔다.