Chi è sempre stato scettico sull’affidabilità dell’autenticazione vocale, oggi ha un motivo in più per non cambiare idea. Sembra infatti che l’intelligenza artificiale stia regalando il potere di clonare le voci umane. Ciò potrebbe significare, per qualsiasi malintenzionato, poter bypassare ogni controllo. Ciò sicuramente significa che gli sviluppatori di software con questa funzionalità devono elevare al massimo il livello di sicurezza garantito. Una volta sparsa la notizia, infatti, sicuramente glielo domanderanno soprattutto call center, banche, agenzie governative, i principali utenti di questo tipo di autenticazione.
La voce non è più unica
La segnalazione di questa nuova vulnerabilità non è originata dal comune allarmismo legato all’AI ma nasce nel mondo della ricerca. Una coppia di informatici dell’Università di Waterloo in Canada ha infatti recentemente provato che, utilizzando il machine learning, è diventato più facile imitare la voce di qualcuno e ingannare i controlli di questi sistemi di autenticazione.
La scoperta, pubblicata negli atti del 44° IEEE Symposium on Security and Privacy, si basa su un intenso lavoro scientifico di manipolazione di registrazioni vocali generate dall’intelligenza artificiale, per creare campioni “avversari” altamente efficaci.
In genere si è sempre partiti dal presupposto che la voce di ognuno sia unica, per via di caratteristiche fisiche, come la dimensione e la forma del tratto vocale e della laringe, e di fattori sociali, come l’accento. È ciò su cui fanno leva i sistemi di autenticazione vocale, captando queste sfumature in impronte vocali uniche e, teoricamente inimitabili. L’audio generato con algoritmi di intelligenza artificiale sarebbe infatti “affetto” da artefatti distintivi che gli analisti sono in grado di individuare, riconoscendolo come “fake”.
La sfida dei ricercatori canadesi è stata quella di sviluppare una nuova tecnica per eliminare queste caratteristiche “civetta”. Il segreto starebbe nell’incidere l’impronta vocale dell’utente nel campione contraffatto, tentando di rimuovere gli artefatti meccanici che sono predominanti.
Migliorare prima che migliori il cybercrime
Il piano sembra semplice ma, per implementarlo, sono stati necessari un massiccio uso di AI generativa, tanto training e numerose voci reali e non. La coppia di informatici ha addestrato il proprio sistema su campioni di 107 discorsi autentici per individuare in modo scientifico ciò che rende umano un parlato. Poi è passata alla fase di test dell’algoritmo, creando diversi campioni avversari per provare a ingannare i sistemi di autenticazione vocale. Il tasso di successo raggiunto è stato del 72%, ma con alcuni software più deboli, la percentuale è schizzata al 99% dopo solo sei tentativi.
Il risultato spaventa, ma sono gli stessi ricercatori ad affermare che non deve portare ad archiviare definitivamente questa tecnologia. Esistono già sistemi avanzati che la utilizzano e con cui il loro algoritmo ha avuto poco successo (10%). Ci sono anche tanti miglioramenti possibili da implementare, senza contare che non tutti i criminali sono oggi in grado di usare l’AI per imitare la voce umana. Oltre ad avere accesso alla voce del loro bersaglio, è necessario che siano anche sufficientemente esperti di tecnologia. Mentre studiano per diventarlo, il mondo della sicurezza ha un discreto margine di tempo per trovare meccanismi di autenticazione più affidabili e a prova di deepfake.
