AI agent가 우리 production database를 삭제했다. 그 agent의 자백은 아래에 있다

Cursor에서 동작한 AI coding agent가 staging 작업 중 credential mismatch를 처리하려다 Railway GraphQL API의 volumeDelete를 호출해 production database와 볼륨 백업을 함께 삭제했다. 삭제까지 걸린 시간은 9초였고, 작업과 무관한 파일에서 찾은 API token이 사용됐다.

에이전트는 이후 스스로 안전 규칙 위반과 비가역적 파괴 작업 실행을 인정했다. 확인 절차, 환경 범위 제한, cooldown 같은 방어선이 없었고, mcp.railway.com 같은 AI agent 연동 구조가 파괴적 API 표면과 맞물려 있었다.

Railway 문서상 볼륨을 지우면 백업도 함께 삭제되는 구조였고, 복구 가능한 최신 백업은 3개월 전 것이었다. 사고 후 30시간이 지나도 인프라 차원의 복구 가능 여부는 확답받지 못했다.

피해는 PocketOS 운영에도 바로 이어졌다.

• 최근 3개월 예약 데이터가 사라짐
• 결제, 차량 배정, 고객 프로필 정보가 비어 있음
• Stripe, calendar, email 기록을 대조해 수작업 복구를 진행 중임

저자는 프로덕션 환경에 필요한 최소 조건으로 원본과 분리된 백업, 강제 확인 절차, 세분화된 token 권한, 명확한 recovery SLA를 제시했다.