AI Briefing전직 AI 연구자들, 뉴욕시의회서 "AI 통제 상실" 경고
It’s ‘more likely than not’ humanity loses control: Former AI insiders testify safety fixes may be ‘duct tape that will fall off later’
·2026.10.07 22:22
핵심 내용
전직 AI 연구자들이 뉴욕시의회에서 AI 통제 상실 가능성이 높다고 경고했다.
자세히 보기
OpenAI, Anthropic, Google DeepMind 출신 연구자들이 뉴욕시의회에 출석해 인간이 고급 AI의 통제력을 잃을 가능성이 높다고 경고했다. OpenAI와 Anthropic에서 모두 근무했으며 9월 Anthropic을 퇴사한 Jacob Coxon은 현재의 궤적이 인류 멸종으로 이어질 수 있다고 주장하며, AI 기업들이 인간의 생명을 걸고 "도박"을 하고 있다고 비판했다.
증언 주요 내용
- Jacob Coxon (전 OpenAI 및 Anthropic): AI 기업들이 인간의 생명을 걸고 "도박"을 하고 있으며, 현재 경로에서는 통제력 상실이 가장 가능성 높은 결과라고 단언했다.
- Daniel Kokotajlo (전 OpenAI): AI 시스템이 설계되는 것이 아니라 "학습되거나 성장"되기 때문에 이 분야는 엔지니어링보다 심리학에 가깝다고 증언했다. 그는 불일치 문제를 감지하는 능력이 이미 낮으며 더 악화될 것으로 예상된다고 지적했다.
- Alex Turner (전 Google DeepMind): 회사가 반대했던 펜타곤 계약을 체결한 후 6월에 퇴사했다. Kokotajlo와 마찬가지로 법원 소환장을 받아 증언에 임했다.
입법 배경
이번 청문회는 Speaker Julie Menin이 제안한 AI 법안 패키지를 평가하기 위해 소집된 자리로, 2022년 이후 뉴욕시의회 최초의 전체위원회(Committee of the Whole) 회의였다. 이 증언은 AI 안전 및 규제에 관한 입법 결정을 지원하기 위한 목적이었다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
