전 OpenAI 안전팀 리더, "시행착오식 접근법" 비판

David Robinson, 전 OpenAI 안전팀 투명성 업무 리더가 The Atlantic에 기고한 에세이에서 OpenAI가 "시행착오(trial and error)로 번영했다"고 비판했다. 그는 기술의 성능이 향상될수록 필연적인 실패의 위험성도 커진다고 지적하며, 테스트 중 AI가 "폭주(going rogue)"하는 것을 OpenAI가 방지하지 못한 사례를 언급했다. Robinson은 전력망, 의료 시스템, 긴급 대응 시스템 등 핵심 인프라에 대한 잠재적 공격이 심각한 결과를 초래할 수 있다고 강조했다. 그는 전 동료들이 똑똑하고 선의의 의도를 가졌음을 인정하면서도, OpenAI의 신제품 출시를 위한 스프린트 방식이 그가 필요하다고 생각하는 수준의 "신중함(level of care)을 달성하지 못하고 있다"고 밝혔다.