Deep fake, la nuova minaccia al confine tra reale e immaginario

Se una tecnologia permette un nuovo comportamento o azione, è solo questione di tempo prima che l’uomo la scopra e inizi a farla. Così come la TV si presta a una visione passiva, le reti neurali applicate al video aprono le porte a una falsificazione di alta qualità, molto difficile da smascherare, i deep fake appunto.

Negli ultimi tempi se ne sente parlare sempre più spesso, sono la nuova frontiera della disinformazione in rete e spalleggiano le fake news nelle campagne di comunicazione – poco oneste – di politici e aziende.

Come funzionano i deep fake? Come vengono creati? E com’è iniziata la loro storia? In questo post rispondiamo a queste domande ed esploriamo alcune delle possibili conseguenze dei deep fake sulla nostra società.

Che cosa sono i deep fake?

Deep fake è la combinazione delle parole inglesi fake, che significa “falso”, e deep, che significa “profondo”, ma in questo caso si riferisce al deep learning, ovvero l’apprendimento dell’intelligenza artificiale mediante reti neurali.

Si tratta di video falsi prodotti con software specifici, come le app FakeApp e DoubliCat, a partire da video e audio reali che ritraggono una certa persona.

Come vengono creati i deep fake?

Per creare un deep fake servono:

Diversi video e audio di una certa persona
Software per deep fake
Un computer con una buona scheda grafica

Come vedi, una volta in possesso del software necessario, chiunque può creare un deep fake, dato che la rete offre una grande quantità di video e audio di tutti i personaggi più famosi.

Per questo motivo, i deep fake sono stati utilizzati soprattutto per screditare politici o artisti famosi, e attribuire una fake news a un personaggio famoso che gode di una buona reputazione presso il pubblico.

Il processo di creazione è piuttosto semplice:

Il software analizza il materiale video a disposizione e “apprende” le espressioni facciali della vittima.
Viene creato un audio falso.
Il software crea un video da abbinare all’audio fasullo in base alle forme e alle strutture di movimento che ha imparato.
Viene creato il video finale con la traccia audio falsa.

Per capirne meglio il funzionamento, guarda questo video sul deep fake con acquisizione video in tempo reale.

Storia dei deep fake

I video finti che fanno tremare le reti sociali e i siti di opinione del nostro secolo devono il loro nome, deep fake, al primo utente di Reddit che iniziò a diffonderli online. Il suo nome era appunto Deep Fakes.

I primi deep fake ritraevano attrici e cantanti famose, il cui volto era stato incollato su quello di porno star all’interno di video hard. Le prime vittime furono Gal Gadot, Jessica Alba e Taylor Swift, ma ne sono seguite molte altre.

Poi, alle artiste sono seguiti attori e politici americani, fino a colpire lo stesso Barack Obama, ed era solo questione di tempo prima che i deep fake sbarcassero anche in Italia, prendendo di mira personaggi famosi come l’ex presidente del consiglio Matteo Renzi.

Per una storia più dettagliata, ti rimandiamo a questo interessante articolo di Wired sui casi celebri di deep fake.

Come riconoscere un deep fake

Questo è il grande problema. L’intelligenza artificiale è in grado di generare deep fake ma non di riconoscerli con precisione. I grandi colossi di Internet, tra cui Facebook e Google in primis, stanno cercando di sviluppare una tecnologia che ci riesca, o che almeno commetta meno errori, ma la strada è ancora lunga.

Noi “semplici umani” non siamo in grado di distinguere un video vero da uno finto se lo guardiamo sul telefono in bassa qualità. Per questo motivo, non ci resta che affidarci al buon senso e al contesto: quando vediamo un video che ci sconcerta, dobbiamo trattarlo come una notizia e chiederci:

Qual è la fonte? È affidabile?
Ciò che succede o viene detto nel video ha senso, è plausibile? Ad esempio, è possibile che un politico si faccia vedere ubriaco in pubblico urlando oscenità?
Il canale che trasmette il video è serio? Controlla le fonti delle proprie informazioni?
Potrebbe convenire a qualcuno creare un deep fake come questo? Chi ci può guadagnare?

Deep fake e il collasso della realtà

In questo interessante articolo su finzione e realtà, pubblicato su Il Tascabile e che ti invitiamo a leggere, Pietro Minto sostiene preoccupato che le nuove tecnologie possono portare a un “collasso della realtà”.

Fake news, deep fake, fotomontaggi: la manipolazione digitale sfuma il confine già labile tra realtà e finzione, e mentre aspettiamo che i giganti dell’hi-tech inventino una tecnologia in grado di aiutarci, per noi è sempre più difficile distinguere tra ciò che è vero e ciò che no.

Questo problema ci coinvolge tutti e non solo come individui e navigatori di Internet, ma anche e soprattutto come cittadini, elettori e consumatori. Le nostre scelte possono essere influenzate da campagne di comunicazione truffaldine, i cui creatori non esitano a utilizzare deep fake, account social automatizzati e altri stratagemmi della disinformazione.

Ecco gli ingredienti del cocktail Molotov che potrebbero portare al collasso della realtà:

Enorme quantità di contenuti difficili da verificare e confrontare.
Scarse competenze digitali da parte del pubblico (leggi analfabetismo funzionale relativo ai media digitali).
Poco tempo e poca motivazione del pubblico per sviluppare opinioni informate e ragionevoli.
Mancanza di una legislazione chiara in materia (motivo per cui i casi si ripetono nel tempo).

A che cosa porta tutto questo? Che impatto possono avere i deep fake sullo sviluppo dell’opinione pubblica, sulle conversazioni e la circolazione di contenuti online? Una delle conseguenze possibili, e probabili, è la cultura del sospetto, per altro già presente nella maggior parte delle democrazie occidentali, ma più accentuata.

Quando tutto può essere contraffatto, come dire se una cosa è vera o meno? Nel dubbio, allora, molti finiranno per non credere più a niente e nessuno. Oppure, cosa ancora più probabile dato che come esseri umani abbiamo bisogno di farci un’opinione almeno sulle cose più importanti, assisteremo a una radicalizzazione e polarizzazione delle opinioni, soprattutto in ambito politico e sociale.

Una volta formata un’opinione, saremo ancora più restii a cambiarla rispetto al passato, perché avremo paura di prendere in considerazione informazioni false. Da questo punto di vista, i deep fake sono ancora più temibili delle fake news, perché abbiamo la tendenza a fidarci di ciò che vediamo, soprattutto in video.

Se dovessimo arrivare al punto di non credere nemmeno ai nostri occhi, a che cosa daremo credibilità online e offline? A chi crederemo quando ci parlano di cambiamento climatico o di immigrazione nel Mediterraneo? Chi voteremo? Quali aziende sosterremo con i nostri acquisti?

Il XXI secolo ci presenta nuove ed emozionanti sfide. Forse non siamo ancora ben equipaggiati per affrontarle, ma gli strumenti e le idee di cui abbiamo bisogno stanno già nascendo, è solo questione di tempo. Nel frattempo, facciamo attenzione e impariamo a diffidare dei messaggi che non ci convincono: potrebbe trattarsi di phishing, fake news o un video deep fake!

Buona navigazione e buona alfabetizzazione digitale!