Il bot di deepfake ha già fatto 100.000 vittime e le immagini manipolate vengono spesso utilizzate per fare revenge porn

I deepfake sono una delle ultime tendenze in materia di manipolazione audio-video e ne abbiamo già parlato ampiamente in relazione alla disinformazione. La situazione però si complica ulteriormente quando l’intelligenza artificiale consente di sviluppare app di deepfake come DeepNude, su cui si basa il bot scoperto su Telegram, che rendono i deepfake alla portata di tutti.

Il bot semplifica a tal punto le cose, che è sufficiente inviare per chat una foto di una donna e questo restituirà la stessa immagine ma senza vestiti. Questo artificio è possibile grazie al machine learning: l’algoritmo analizza migliaia di immagini e impara a ricostruire l’aspetto del corpo femminile nudo in base alle informazioni che trova nella foto originale (dimensioni, ombre, proporzioni e così via). Ma l’aspetto davvero allarmante è che questo bot funziona solo con le foto di donne, per cui sta diventando uno strumento di abuso e violenza di genere.

DeepNude, l’app di origine

Tutto parte dall’app DeepNude, sviluppata per divertimento e presto ritirata dal Web perché, a detta del suo creatore, “era diventata troppo pericolosa”. Tuttavia, sappiamo che una volta pubblicato qualcosa su Internet, è praticamente impossibile cancellarne ogni traccia. Di fatto, il codice dell’app era già stato copiato e riprodotto prima del ritiro, ed è diventato disponibile su GitHub, il portale di casa Microsoft, insieme a varie modifiche e versioni successive.

Ed ecco che qualcuno ha avuto un’altra idea brillante – si fa per dire­­ – e ha creato un bot per Telegram su cui basta caricare le foto per ottenerne la versione senza vestiti. In modalità gratuita si riceve una foto con una filigrana, ovvero con dei segni in sovraimpressione. Pagando una cifra quasi simbolica si accede alla versione migliorata, ovvero senza filigrana, proprio come sui database online di fotografie come Shutterstock.

Così, alle polemiche sulla disponibilità del codice su GitHub si sono aggiunte quelle sulle norme e il controllo di Telegram. In realtà, anche qui non c’è niente di nuovo e il dilemma etico è ancora lontano dal trovare una soluzione: Internet dev’essere regolato? Se sì, fino a che punto? E chi lo decide, dato che non ci sono frontiere geografiche?

Scarica Antivirus Android

Un altro attacco alle donne

Indipendentemente dall’opinione di ognuno sull’etica di Internet (che in definitiva viene risolta in maniera sbrigativa da ciascuna corporation), rimane il problema di come le nuove tecnologie vengono utilizzate per umiliare o addirittura ricattare le donne. Questo è uno dei lati oscuri dei nuovi strumenti digitali, in particolare dell’intelligenza artificiale, e a rimetterci sono spesso le categorie con meno potere e che hanno meno visibilità nel discorso politico e sociale, prime fra tutte le donne.

Sì, perché l’app è stata sviluppata da un uomo e funziona solo con foto di donne. Inoltre, solo il 30% delle immagini deepfake porn così create rappresenta donne famose, come attrici e cantanti, mentre il 70% ritrae persone comuni, conosciute da chi ha creato la foto, il che apre le porte a uno scenario completamente diverso e potenzialmente pericoloso: il revenge porn.

Il problema della pornografia non consensuale

Il revenge porn, la pornografia per vendetta, è la diffusione di materiale pornografico senza il consenso della persona interessata per rovinare la sua reputazione e le sue relazioni sociali o, in alcuni casi, per ricattarla e sempre con il fine ultimo di vendicarsi di una relazione finita male, di un rifiuto o altre situazioni simili.

Secondo i dati di Eurispes, provenienti da un sondaggio dell’American Psychological Association, il 90% delle vittime del revenge porn sono donne e il fenomeno è talmente grave che il 51% delle persone interessate ha pensato al suicidio.

Ecco perché alla luce di queste cifre non è possibile prendere alla leggera i deepfake porno. Le conseguenze per la vittima possono essere disastrose, soprattutto per le donne non famose. Come diceva Scarlett Johansson, il pubblico la conosce ed è difficile che credano all’autenticità dei deep fake porno che girano su Internet e che la vedono protagonista.

Tuttavia, questo discorso non vale per l’ex ragazza o la collega di lavoro di turno, e la diffusione di deepfake porno nel suo circolo sociale o tra i suoi contatti online può avere un impatto molto forte sulla sua vita. C’è chi se la cava con una discussione in famiglia, ma c’è anche chi si vergogna di farsi vedere a scuola o in città e addirittura chi perde il lavoro o non riesce a trovarne uno a causa della sua nuova “cattiva reputazione”.

Cosa fare contro i deepfake porno

Le app come DeepNude e questo bot di Telegram potranno anche essere rimosse, ma ci sarà sempre qualcuno pronto a ripubblicarle in un altro formato o canale. La soluzione più efficace richiede impegno e sensibilità:

  • Per prima cosa, prendiamo coscienza dei deepfake e impariamo a diffidare di foto e video porno di persone che conosciamo, perché quasi sicuramente non sono veri.
  • Se anche lo fossero, noi non eravamo tra i destinatari autorizzati a riceverli, per cui dobbiamo cancellare questi contenuti e segnalarli alla piattaforma su cui sono stati diffusi.
  • Infine, soprattutto come uomini, dobbiamo imparare a smettere di sessualizzare la donna e trattarla come un oggetto. I deep fake di nudità femminili sono un altro segno di maschilismo e accettarli come uno “scherzo bonario” serve solo a minimizzare il problema ed esporre le donne a ulteriori minacce.

Per fortuna, non tutto il male viene per nuocere. I risvolti negativi delle nuove tecnologie possono anche essere lo spunto per abbordare il problema della violenza contro le donne da una nuova prospettiva. Dopo tutto, le stesse piattaforme utilizzate per diffondere deep fake e revenge porn possono essere anche il veicolo di nuove idee, tra cui l’uguaglianza di genere e il rispetto per le donne.

Buona navigazione e buona denuncia dei deep fake porno!