새 AI 음성 제작 도구, 셀럽 목소리 딥페이크 제작에 악용돼

 

A new AI voice tool is already being abused to deepfake celebrity audio clips | Engadget 기사

https://www.engadget.com/ai-voice-tool-deepfake-celebrity-audio-clips-094648743.html

 

1. 최근 Eleven Labs라는 스타트업에서 TTS 제작용으로 새로운 목소리를 만들거나 

누군가의 목소리를 합성하는 기능을 베타로 공개했다고 합니다. (Voice Lab)

https://beta.elevenlabs.io/

 

2. 그런데 영상에서도 딥페이크 문제가 있는 것과 비슷하게,

익명 게시판 4chan 등에서 엠마 왓슨이 '나의 투쟁'(Mein Kampf)을 읽는 듯한 음성을 제작하는 등 악용 사례가 급증하고 있다고 합니다.

모든 목소리가 같은 방법으로 제작됐는지는 알 수 없으나, Eleven Labs로 향하는 링크가 올라온 것은 보인다고.

 

3. 회사에서도 인지하고 악용에 대처하기 위해 커뮤니티 의견을 듣고 싶다고 트윗을 올렸습니다.

결제 정보나 신분증 정보를 받는 방법 아니면 수동으로 검사하는 것도 생각하고 있다고 합니다.

https://twitter.com/elevenlabsio/status/1620032627075063811

 

 

 

그럼,

    공유합니다.