AGI - L'ultimo caso eclatante riguarda un insegnante di educazione fisica ed ex direttore atletico di una scuola superiore della contea di Baltimora arrestato per aver utilizzato un servizio di clonazione vocale AI per incastrare il preside della scuola. Ma nell'ultimo anno, l'interesse per la tecnologia di clonazione vocale basata sull'intelligenza artificiale è cresciuto man mano che i servizi migliorano nel sembrare più umani. E crescono anche i casi di utilizzo improprio, se non addirittura criminale di app e software per la clonazione vocale.
Il caso di Baltimora parte da una registrazione circolata sui social media a gennaio con un presunto audio del preside della Pikesville High School Eric Eiswert che fa commenti razzisti e antisemiti fosse falsa. Gli esperti hanno detto al Baltimore Banner e alla polizia che la registrazione, che ha portato a una breve sospensione di Eiswert, ha un "tono piatto, suoni di sottofondo insolitamente puliti e mancanza di suoni di respirazione o pause coerenti".
La polizia della contea di Baltimora ha rintracciato la registrazione di Dazhon Darien, un ex direttore atletico della scuola il cui nome è stato anche menzionato nella clip audio. Avrebbe utilizzato i computer della scuola "per accedere agli strumenti OpenAI e ai servizi Microsoft Bing Chat", come riportato da WBAL-TV 11 e NBC News. È stato anche collegato alla pubblicazione dell'audio tramite un indirizzo e-mail e il numero di telefono di recupero associato.
Non è chiaro quale piattaforma vocale AI Darien abbia utilizzato. La polizia ha arrestato l'uomo giovedì all'aeroporto e ha spiegato che il direttore atletico della Pikesville High School, abbia fatto la registrazione per vendicarsi di Eiswert che all'epoca stava portando avanti un'indagine sulla potenziale cattiva gestione dei fondi scolastici. È stato rilasciato su cauzione e deve affrontare accuse tra cui furto (per il problema con i fondi scolastici), disturbo delle operazioni di una scuola, ritorsione contro un testimone e stalking.
Altri casi eclatanti si sono verificati anche in Pakistan, dove il partito politico di Imran Khan, l'ex primo ministro pakistano incarcerato, ha utilizzato ElevenLabs, una popolare piattaforma di generazione text-to-voice disponibile in commercio, per replicare la sua voce durante la campagna elettorale. In Texas, due società sono state collegate a una falsa robocall che fingeva di essere il presidente Joe Biden dicendo alla gente di non votare. La Federal Communications Commission ha vietato l'uso delle chiamate automatiche AI a febbraio. E, naturalmente, il falso Drake ha usato l'intelligenza artificiale per creare la canzone "Heart on My Sleeve".
In questo clima teso, OpenAI ha deciso a marzo di trattenere la sua piattaforma di generazione di testo in voce AI, Voice Engine, dall'uso pubblico. Il servizio, che richiede solo una clip audio di 15 minuti per clonare la voce di qualcuno, è disponibile solo per un numero limitato di ricercatori a causa della mancanza di guardrail intorno alla tecnologia.
I legislatori statunitensi hanno presentato, ma non ancora approvato, diversi disegni di legge come il No Fakes Act e il No AI Fraud Act che cercano di impedire alle aziende tecnologiche di utilizzare il volto, la voce o il nome di un individuo senza il suo permesso.Il Baltimore Banner riporta che la polizia della contea di Baltimora ritiene che una registrazione