ElevenLabs, 영국 AI 보안 연구소(AISI)와 파트너십 체결

ElevenLabs가 영국 정부와 3년 기간의 파트너십을 체결했다. 이번 협력을 통해 AI 음성 기술이 사회와 보안에 미치는 영향을 연구하며, 특히 사람들이 AI 에이전트와 대화할 때 이를 얼마나 잘 식별하는지, 그리고 인지 여부에 따라 행동이 어떻게 변하는지 조사한다.

연구를 위해 ElevenLabs는 영국 정부에 자사의 프런티어 음성 모델에 대한 접근 권한을 제공한다. 연구진은 자연스러운 대화 과정에서 인간과 AI를 구분하는 능력과, 상대가 AI라는 사실을 알았을 때 정보 공개 의지가 어떻게 달라지는지를 중점적으로 살펴볼 예정이다.

ElevenLabs는 기술 오용을 막기 위해 다음과 같은 안전장치를 운영하고 있다:

• 정치인 및 유명인의 목소리 복제 차단
• 음성 복제 시 본인 인증 요구
• AI 생성 여부를 판별하는 AI 오디오 분류기(AI Audio Classifier) 제공

이번 파트너십은 최근 출시된 ElevenLabs for Government의 연장선상에 있다. 이미 우크라이나 정부를 비롯한 여러 공공 기관이 이 기술을 활용해 시민들에게 필수 서비스를 제공하거나 대규모 콜센터 업무를 처리하고 있다.