“Contenuti visivi o audio falsi estremamente realistici possono facilmente fuorviare gli utenti. Sapere come funziona questa tecnologia e quali segnali indicano contenuti falsi consente alle persone di distinguere questo tipo di attacco e proteggersi da esso”, afferma Mantas Užupis, esperto di sicurezza IT di Tele2, in un comunicato stampa.

Contraffazione di contenuti video e audio

I deepfake, meglio conosciuti come deepfake, sono definiti come falsificare un’immagine o un suono utilizzando l’intelligenza artificiale e l’apprendimento automatico. I falsi profondi imitano volti, movimenti e voci umani in modo così preciso che spesso sono indistinguibili dalla realtà a prima vista.

Utilizzando algoritmi di machine learning molto sofisticati, è possibile manipolare dati biometrici come le espressioni facciali e il timbro della voce di una persona. L’obiettivo è creare rappresentazioni realistiche di eventi o affermazioni che non sono mai accadute. Da un lato, il potenziale della tecnologia di alterare audio e video avvantaggia film, ingegneri del suono e agenzie pubblicitarie, ma queste tecnologie rappresentano una minaccia perché vengono utilizzate a scopo di inganno e disinformazione.

Tecnologie utilizzate

Le contraffazioni profonde si basano su sistemi informatici di intelligenza artificiale chiamati reti neurali artificiali. Per creare contenuti deepfake, il creatore deve alimentare questa rete neurale con un’enorme quantità di materiale reale per addestrare il computer a riconoscere caratteristiche umane dettagliate. Questo aiuta l’algoritmo a capire davvero che aspetto ha una persona da diverse angolazioni.

Una rete neurale addestrata è combinata con tecniche di computer grafica per sovrapporre materiale del mondo reale con modelli facciali e vocali sintetizzati dall’IA. Sebbene si creda che la falsificazione profonda richieda strumenti sofisticati e abilità esperte, questo non è vero: può essere creata con una conoscenza di base della computer grafica. Poiché Internet è ricco di contenuti video e audio disponibili gratuitamente, i criminali informatici hanno ottime condizioni per utilizzarlo per creare e diffondere falsi profondi sui social media.

Sebbene lo spoofing video e audio sia spesso molto convincente, ci sono diversi segnali che possono avvisare gli utenti di questo tipo di attacco. Il primo e più importante passo è dare un’occhiata più da vicino alla fonte, alla qualità e ai dettagli del post che rivelano contenuti falsi.

Ritmo del discorso innaturale

La creazione di contenuti Deepfake mira a rendere il video il più realistico possibile, ma non presta molta attenzione al suo audio. Pertanto, nelle registrazioni false, le persone possono parlare con una voce estremamente piatta, pronunciare parole in modo errato o strano e si possono sentire rumori o echi di sottofondo. Confrontando più registrazioni dello stesso oratore, gli utenti possono verificare se la voce e il tono parlato corrispondono.

Movimenti lampeggianti o anomali

Una persona normalmente sbatte le palpebre ogni 2-8 secondi, ma la tecnologia deepfake deve ancora padroneggiare questa capacità. Se l’originalità del video è in dubbio, dovresti notare i movimenti degli occhi: nei falsi, le persone sbattono le palpebre in modo anomalo o non sbattono affatto. Poiché la tecnologia è ancora in fase di sviluppo, anche le transizioni da un’espressione facciale all’altra sembrano innaturali. Nelle registrazioni false, gli altoparlanti di solito sembrano esagerare un po’. Inoltre, i loro movimenti della bocca non sono completamente sincronizzati con la parola, si osservano movimenti del corpo a scatti.

L’illuminazione cambia

Il video spoofing si concentra molto sulla transizione del viso tra i fotogrammi, ma spesso dimentica di regolare l’illuminazione dell’oggetto distintivo e dei suoi dintorni. Se c’è un cambiamento irregolare nella sorgente luminosa o se la luminosità dell’oggetto negli scatti è ovviamente diversa, la registrazione potrebbe essere errata.

Colore della pelle

Uno dei modi migliori per capire se un messaggio è falso è cercare cambiamenti nel colore della pelle e linee innaturali sul viso che rappresentano un cambiamento tra due tonalità della pelle. Se noti che la transizione tra i toni della pelle non è uniforme e sfarfalla ai bordi, puoi sospettare che il video sia stato creato utilizzando la tecnologia “deepfake”.

Diverse aziende tecnologiche leader stanno già sviluppando le proprie soluzioni per combattere i deepfake. Microsoft e Google forniscono set di dati che gli sviluppatori possono utilizzare per addestrare i propri sistemi a rilevare falsi profondi. L’azienda di Facebook, in collaborazione con Microsoft, Amazon Web Services e le principali università del mondo, ha annunciato la Deepfake Detection Challenge, che mira a sviluppare soluzioni per rilevare video falsi.