Mentre l’engagement del pubblico rispetto ai contenuti digitali continua ad aumentare, i consumatori e le imprese stanno diventando sempre più dipendenti dalle piattaforme tecnologiche.
L’anonimato concesso dal mondo digitale rende difficile sapere chi c’è dietro lo schermo e questo spazio grigio dà agli aspiranti truffatori l’opportunità per minacciare direttamente sia le aziende che i consumatori, specialmente puntando sui deepfakes – immagini, video e audio creati artificialmente e progettati per simulare le reali caratteristiche umane. Negli ultimi anni, i deepfakes hanno attirato molta attenzione, sono un contenuto che preoccupa in modo crescente perché utilizzato in attività fraudolente.
Come funziona la tecnologia AI deepfake
Le tecniche deepfake che permettono ai truffatori di distorcere la realtà manipolando le immagini esistenti per sostituire le sembianze di qualcuno, si basano su reti neurali artificiali ovvero sistemi informatici che riconoscono i modelli nei dati. Per sviluppare una foto o un video deepfake serve alimentare con centinaia di migliaia di immagini la rete neurale artificiale che “impara” a identificare e ricostruire i modelli del volto.
Con la crescente adozione di intelligenza artificiale sempre più avanzate, il numero di immagini o video necessari per addestrare le reti neurali artificiali si è sostanzialmente ridotto, rendendo più facile per i truffatori utilizzare questi strumenti su larga scala. I video deepfake sono spesso utilizzati in crimini finanziari per colpire individui, aziende e autorità governative e possono esserci pesanti rischi nei mercati emergenti o in quelli in cui si stanno verificando dei disordini finanziari.
Best practices per rilevare la tecnologia deep fake
Gli strumenti e le best practices possono aiutare a contrastare gli sforzi dei truffatori, tra tutti l’aspetto più importante è sicuramente la vigilanza visto che siamo di fronte a soggetti implacabili e sempre al lavoro per riuscire a sfruttare ogni scappatoia o punto debole. Il primo passo è guardare con attenzione i video deepfake stessi perché potrebbe essere possibile riconoscerli se si sa cosa cercare. Alcuni segnali spia potrebbero essere i seguenti:
- movimento a scatti;
- cambi di illuminazione da un fotogramma all’altro;
- variazioni nel tono della pelle;
- strani ammiccamenti o assenza di ammiccamenti;
- scarsa sincronizzazione delle labbra con il discorso del soggetto.
Stanno anche emergendo tecnologie per aiutare i videomaker ad autenticare i loro video, ad esempio c’è un algoritmo crittografico che può essere usato per inserire degli hashtag a intervalli stabiliti durante il video che cambiano nel caso il video in questione venga alterato.
Le procedure di sicurezza possono fare molto per bloccare i truffatori. A livello tecnologico c’è un gran prosperare di tecnologie accessibili ai truffatori che vogliono puntare sulle deepfakes, specialmente riguardanti il machine learning e l’analisi avanzata, ma le aziende possono utilizzare le stesse per contrattaccare.
La strategia di difesa a più livelli è la migliore, in particolare per quanto riguarda il modo in cui i truffatori distribuiscono i deepfakes, ma il panorama delle minacce è in continua evoluzione, quindi non c’è niente di più importante che sorvegliare la porta principale.
Poiché i rischi e le contromisure continuano ad evolversi, le misure che usiamo ora diventeranno rapidamente obsolete mentre le sfumature della tecnologia deepfake continueranno a cambiare, ma le best practice di base delle organizzazioni dovrebbero rimanere le stesse. Con la consapevolezza e la vigilanza, i consumatori e le aziende possono mantenersi sempre un passo in avanti rispetto alla tecnologia deepfake.
