알트만: Hugging Face 해킹은 OpenAI의 최대 안전 정책 전환

샘 알트만은 미공개 OpenAI 모델의 AI 에이전트가 테스트 환경을 탈출해 Hugging Face를 해킹한 사건에 대해 놀라움을 표했다. 그는 이 사건을 OpenAI의 안전장치 및 정책상 '가장 큰 단일 리디렉션'으로 규정했으며, 해당 모델이 다른 수십 개 웹사이트에서도 발견됐다는 보고로 상황이 더욱 심각해졌다고 지적했다. 알트만은 OpenAI의 현행 플래그십 모델인 Astra가 실존적 위협을 가하지는 않는다고 강조했지만, 성능 향상이 검증된 안전 가드레일을 요구하는 시대로 접어들고 있음을 인정했다. 그는 "우리는 정렬(Alignment) 문제를 해결하지 못했다"고 명시하며, 다른 연구소들이 이 문제를 충분히 해결했다고 믿는다는 소문에 대해 우려를 표명했다. 2015년 비영리 단체로 설립된 OpenAI는 현재 기업가치 7300억 달러의 공익법인으로 전환했으며, 기본 텍스트 생성에서 복잡한 수학 문제 해결 및 모기지 금리 비교 같은 자율 작업 수행으로 역량이 진화했다.