Instagram contro il cyber flashing

Lanciato un nuovo strumento per bloccare le immagini di nudo non desiderate, ma il problema di fondo rimane.

Ultimamente, la tendenza è cercare di risolvere tutti i problemi con l’AI. Vogliamo siti localizzati all’istante? Facciamoli tradurre da un algoritmo. Le fake news sui social? Un altro algoritmo. E cosa possiamo fare per combattere il cyber flashing e gli abusi online? Semplice, usiamo ancora un altro algoritmo! Ma è davvero così semplice?

Instagram ha lanciato una funzionalità automatica che riconosce le immagini di nudità nei DM e le sfoca, per combattere il fenomeno del cyber flashing. Per il momento lo strumento è in versione beta, disponibile solo ad alcuni utenti, ma presto verrà esteso a tutta la community.

Se da un lato le applicazioni di AI sono utili e automatizzano compiti lunghi e tediosi (come la moderazione in tempo reale, in questo caso), dall’altro pensiamo che questa sia solo una parte della soluzione, e forse neanche la più importante.

In questo post parliamo di cyber flashing, della nuova misura di sicurezza di Instagram e della legislazione di alcuni paesi per limitare la violenza digitale e gli abusi online. Continua a leggere!

L’uso dell’AI è la soluzione naturale per ridurre l’impatto del cyber flashing, ma la misura più efficace è convertirlo in un reato.

Cos’è il cyber flashing

Consiste nell’inviare immagini di nudo a persone che non le hanno chieste, sfruttando strumenti di connettività come l’AirDrop di Apple o i messaggi diretti di Instagram. Può sembrare un tipo di abuso “light”, ma questa pratica è una vera e propria forma di violenza sessuale, che ovviamente colpisce soprattutto le donne.

Le cosiddette “dick pic” (immagini di peni) vengono inviate a donne sconosciute incontrate sui mezzi pubblici o online e non sono affatto una pratica innocua: la vittima si sente in pericolo, le viene imposto di guardare un’immagine di nudo che non ha chiesto, di una persona che non conosce e che potrebbe essere seduta davanti a lei nella metropolitana.

Il cyber flashing non è l’unica forma di abuso sessuale online: negli ultimi anni sono aumentati molto i casi di revenge porn (la diffusione di video e foto porno per rovinare la reputazione di una persona) e deep nude, immagini deep fake a sfondo sessuale create a partire da foto reali tramite app o canali Telegram. A queste modalità puramente digitali si aggiungono tutte le forme ibride di abuso, violenza, intimidazione e stalking.

La nuova funzione di Instagram contro il cyber flashing

Instagram rientra nel ventaglio di Big Tech a cui le nuove leggi europee richiedono un maggiore impegno per proteggere la privacy e la sicurezza degli utenti (nonché altre misure antitrust). Per questo, l’azienda ha sviluppato un’applicazione di intelligenza artificiale che riconosce le immagini di nudo inviate tramite DM e le sfuma, rendendole irriconoscibili.

L’utente viene avvisata o avvisato di una possibile immagine di nudo non richiesta e può decidere se renderla visibile o bloccarla. Per ora questa funzionalità è in fase di prova: se i risultati dei test saranno buoni, verrà presto estesa a tutta la base utenti di Instagram.

L’uso di un algoritmo di deep learning, allenato con migliaia di immagini dello stesso tipo per insegnargli a riconoscerle automaticamente, è la soluzione naturale per ridurre l’impatto di un problema come questo, perché sarebbe impossibile moderare in tempo reale tutti i contenuti che vengono inviati ogni secondo dai milioni di utenti dell’applicazione.

La cosa strana, tuttavia, è che Instagram conservi l’opzione di inviare immagini a sconosciuti (ammesso che abbiano un account pubblico). Basterebbe bloccare questa funzione per risolvere il problema alla radice, ma questa eventualità non è mai stata presa in considerazione.

Tuttavia, al di là delle misure di sicurezza tecniche, la cosa più importante per combattere questi fenomeni è penalizzarli dal punto di vista legale e convertirli in un reato vero e proprio, una decisione che è stata presa recentemente nel Regno Unito e che ancora non è approdata nel nostro paese.

In Italia mancano ancora leggi chiare e contundenti, probabilmente a causa del retaggio culturale che ancora responsabilizza la vittima.

Le leggi contro il cyber flashing

In Inghilterra, il cyber flashing, il revenge porn e le altre forme di molestia online sono state inserite in una nuova legge (in Scozia sono già illegali dal 2009) e verranno punite con un massimo di 2 anni di carcere.

“Il cyber-flashing viola il nostro diritto alla vita di tutti i giorni, a vivere senza guardarci alle spalle, preoccupandoci di cosa c’è dietro l’angolo“, spiega al Daily Mail la professoressa McGlynn, esperta nella regolamentazione legale della pornografia, degli abusi sessuali basati sull’immagine e della violenza sessuale. “La linea di fondo è che non dovremmo avere a che fare con questo genere di cose. Non dovremmo cambiare le nostre impostazioni AirDrop rendendole private, o rimproverarci per non averlo fatto“.

McGlynn sottolinea un punto molto importante: la responsabilità nei casi di violenza non è MAI della vittima, indipendentemente dalle misure di sicurezza che adotta, ma dell’aggressore. Per questo la nuova funzionalità di Instagram è utile e importante, ma deve essere accompagnata da leggi che riducano questo tipo di comportamenti, altrimenti ci ritroveremmo nell’ennesima situazione in cui tutto il peso della protezione ricade sulle spalle della vittima (donna).

In Italia, invece, mancano ancora leggi chiare e contundenti su questo tema, probabilmente a causa del retaggio culturale che ancora responsabilizza in parte la vittima, soprattutto se donna.

Inoltre, manca un canale diretto per denunciare le violenze sessuali online, nonché una fonte di informazioni istituzionale e, per finire, il canale delle denunce per reati telematici (in cui rientrerebbero anche le molestie online) è “momentaneamente sospeso perché è in atto una reingegnerizzazione dell’infrastruttura”.

È evidente che nel nostro paese le molestie online e la violenza contro le donne vengono ancora prese alla leggera. Speriamo in futuro di vedere provvedimenti più seri e campagne di sensibilizzazione per attaccare il problema alla radice.

CONTINUA A LEGGERE: Abbiamo bisogno di una legge sulla moderazione dei contenuti online?

Buona navigazione e buona protezione dal cyber flashing!