Che cos’è il voice cloning (e come difendersi)

In quanti film e serie TV abbiamo visto super-spie o ladri provetti utilizzare dispositivi capaci di camuffare la propria voce, rendendola in tutto e per tutto simile a quella di un’altra persona? Ecco, grazie all’Intelligenza Artificiale, siamo arrivati esattamente a quel punto. Oggi è infatti possibile attuare quello che nel gergo tecnico si chiama voice cloning, una tecnologia tanto affascinante quanto pericolosa, in grado di diventare uno strumento devastante nelle mani di piccoli e grandi truffatori. Vediamo come funziona e, soprattutto, come possiamo difenderci dalle possibili frodi.

Come funziona. Il voice cloning sfrutta l’Intelligenza Artificiale per replicare una voce umana in modo sorprendentemente realistico. Basta un campione audio di soli tre secondi per catturare caratteristiche come l’intonazione, l’accento e persino il ritmo del respiro. L’algoritmo utilizza questi dati per generare nuove frasi, che suonano esattamente come se fossero pronunciate dalla persona originale. Questo strumento, sebbene faccia parte dei cosiddetti deepfake, trova applicazione innanzitutto in ambiti legati all’intrattenimento e alla sanità, permettendo, per esempio, la creazione di doppiaggi cinematografici o l’assistenza a persone con disabilità vocali.

uso fraudolento. Tuttavia, il potenziale uso fraudolento è preoccupante. Più lunghe sono le conversazioni più il programma può sfruttare una maggiore quantità di dettagli fonetici, semplificando la riproduzione di sfumature come esitazioni o cadenze, strascichi dialettali o pronunce errate.

Una manna per i truffatori, che hanno già trovato modi creativi per “accaparrarsi voci“, per esempio raccogliendo campioni vocali da piattaforme pubbliche come YouTube o TikTok, con lo scopo di creare falsi audio.

Le prime applicazioni. La truffa più semplice consiste nell’invio di messaggi di emergenza tramite piattaforme come Whatsapp, in cui si esortano le vittime a trasferire denaro attraverso canali difficilmente tracciabili, come criptovalute o carte regalo. Numerosi casi di frode internazionale hanno già avuto luogo e in Australia a essere clonata è stata addirittura la voce del Premier del Queensland, per promuovere un falso investimento in Bitcoin che ha fatto cadere nella trappola decine di cittadini.

Un altro caso riportato dalle cronache si è verificato negli Emirati Arabi, dove i truffatori hanno riprodotto il modo di parlare di un direttore aziendale, rubando ben 51 milioni di dollari. A preoccupare, però, non sono queste frodi milionarie, ma piuttosto quelle rivolte a persone comuni, soprattutto in età avanzata. Una voce, infatti, potrebbe essere campionata anche durante una conversazione al bar o in un ristorante per poi essere utilizzata in raggiri su scala minore.

Una tecnologia così sofisticata, in grado di ingannare anche avanzatissimi sistemi di sicurezza, necessiterà di contromisure ipertecnologiche. O forse no…

Come difendersi. Per proteggere i cittadini occorre pianificare campagne di informazione mirate a rendere nota l’esistenza del problema. Per le aziende, l’adozione di sistemi di sicurezza biometrica con rilevamento della “vitalità” vocale può aiutare a distinguere una voce reale da una clonata, così come impostare un’autenticazione a più fattori.

Di pari passo, gli organi di polizia devono affinare le capacità investigative contro queste frodi e i governi sviluppare normative adeguate, come è già accaduto in Australia, dove è stato attuato il piano nazionale contro il crimine informatico per prevenire, rilevare e contrastare i truffatori, coinvolgendo aziende hi-tech e banche.

Consigli utili. Ma veniamo ai cosiddetti “rimedi della nonna”, attuabili da ognuno di noi. In caso di richieste di denaro e dati sensibili, prima di procedere, è buona abitudine adottare precauzioni. Se la comunicazione si svolge in tempo reale, un buon consiglio è stabilire una parola d’ordine con i propri amici o familiari, qualcosa di semplice ma nota solo a loro.

In alternativa, si può porre una domanda personale a cui soltanto il diretto interessato sa rispondere. Se la voce è contenuta in un messaggio vocale, invece, il modo migliore è telefonare di persona per verificare, oppure far inviare all’interlocutore altri messaggi, inserendo nelle richieste ricordi comuni o informazioni sconosciute a estranei. Semplice ma efficace, e non c’è tecnologia che tenga.