Internet in armi mentre l'utente di 4Chan utilizza il simulatore vocale AI per falsificare la voce di Emma Watson, facendole leggere l'autobiografia di Hitler
Gli ex membri dello staff di Google e Palantir hanno lanciato insieme la startup Elevenlabs, che mirava a creare falsi audio di alta qualità delle celebrità attraverso il loro strumento di clonazione vocale AI. Ma il loro lancio beta si è presto ritorto contro con molti che hanno abusato delle voci delle celebrità, tra cui Emma Watson, attraverso lo strumento di clonazione vocale AI.
Molti fan sono rimasti infuriati dall'uso non etico e immorale dello strumento di intelligenza artificiale dopo che alcuni troll hanno abusato delle loro voci di celebrità preferite per trasmettere commenti oltraggiosi. Ma la startup ha assicurato a tutti che cambierà modello per evitare ulteriori problemi.
Fan infuriati dopo che l'utente di 4Chan ha abusato della voce di Emma Watson attraverso lo strumento AI
L'introduzione dello strumento di clonazione vocale AI di Elevenlabs ha dato fuoco a Internet dopo che numerosi troll hanno sfruttato l'utilizzo di questo strumento gratuito. Sebbene molti abbiano utilizzato il software per generare contenuti salutari, una parte di Internet ha abusato dello strumento per far sì che le celebrità vomitino insulti razzisti e commenti oltraggiosi e l'uso improprio di di Emma Watson la voce è stata l'ultima goccia.
Recentemente. Motherboard ha segnalato l'estremo abuso del software AI per creare audio falso profondo offensivo. Ma la goccia che ha fatto traboccare il vaso è stata un utente di 4Chan, che ha generato una clip del Harry Potter protagonista Emma Watson che legge la mia battaglia , l'autobiografia del dittatore nazista Adolf Hitler.
I fan sono stati infuriati da questo uso non etico del software su Emma Watson e altre celebrità famose tra cui Joe Rogan, Robin Williams, ecc. Elevenlabs, che ha reso la tecnologia disponibile al pubblico, ha affrontato questo problema crescente e ha promesso di combattere contro il abuso del loro strumento di clonazione vocale.
Leggi anche: Il regista di “Prigioniero di Azkaban” ha chiesto al trio di Harry Potter di scrivere un saggio sul loro personaggio – Emma Watson ha scritto 16 pagine, Daniel Radcliffe aveva un riassunto di 1 pagina, Rupert Grint non ne ha scritto uno
Elevenlabs promette di evitare ulteriori abusi dello strumento AI
La startup è stata sopraffatta dalla risposta positiva anche a loro all'inizio, poiché molti utilizzavano lo strumento di clonazione vocale AI per una creazione sana. Ma la società ha presto dovuto affrontare un problema dopo che i troll hanno iniziato a sfruttare il software per scopi nefasti. Elevenlabs ha assicurato a Internet che stanno esaminando a fondo la questione e cercando le possibili soluzioni.
Sebbene i creatori di Elevenlabs abbiano ammesso di poter risalire agli utenti che stanno abusando del potere dello strumento AI, stanno cercando ulteriori misure di sicurezza per evitare questo problema. I creatori hanno condiviso idee diverse per affrontare la questione, che include l'introduzione della verifica manuale per ogni clonazione e la verifica completa dell'identità dell'utente tramite pagamento o qualsiasi altro metodo.
Sebbene il beta test della Startup abbia avuto un inizio misto, con molti fan infuriati per l'uso non etico delle voci delle celebrità attraverso lo strumento AI, in particolare Emma Watson. Ma le persone hanno anche riconosciuto l'avvio per non aver spazzato via la situazione e aver adottato misure attive per affrontare questi troll di Internet.
Fonte: Vice
