Scopriamo i vantaggi, i limiti e i rischi di una delle applicazioni più importanti dell’intelligenza artificiale.

Diversi studi dimostrano che il riconoscimento facciale e l’AI in generale soffrono degli stessi pregiudizi della nostra società, ad esempio non riconoscono bene le donne negre e le persone transessuali. Tutto dipende dalle immagini con cui “alleniamo” gli algoritmi di questa tecnologia.

Dato che il riconoscimento facciale è sempre più in voga (nel settore della sicurezza come nel marketing comportamentale), vale la pena capire bene come funziona, quanto sia preciso e come possiamo gestire i nostri dati biometrici (anche questi considerati dati personali).

Come funziona il riconoscimento facciale

Per “riconoscimento facciale” intendiamo le tecnologie (software e hardware) in grado di rilevare il volto di una persona e riconoscerne alcune caratteristiche o l’identità completa. I software più recenti suddividono il volto in linee e settori, li misurano e creano un’identità unica a partire dai dati. Per questo motivo, anche nel caso del riconoscimento facciale parliamo di biometrica, ovvero misurazione di parametri biologici come l’ampiezza dell’iride o la lunghezza del setto nasale.

BONUS: per informazioni più tecniche, ti rimandiamo al nostro precedente post sul riconoscimento facciale.

Il riconoscimento facciale ha due principali applicazioni, l’autenticazione sicura e la ricerca di persone. La prima ha rivoluzionato la cybersicurezza, aggiungendo un’opzione molto robusta ai consueti metodi di autenticazione (nome e password). La seconda si basa su altre due abilità: la capacità di interpretare le immagini e la disponibilità di un database di volti.

Problemi di privacy

Siamo abituati a preoccuparci delle implicazioni a livello di privacy dell’esistenza di grandi database con i volti dei cittadini, che vengono incrociati con i sistemi di riconoscimento facciale della polizia e possono creare problemi etici non indifferenti quando a un riconoscimento segue una decisione presa dall’AI.

Tuttavia, il problema più serio potrebbe essere l’altra abilità delle nuove tecnologie: interpretare le immagini dei volti. Questa è una branca importantissima di quella che chiamiamo computer vision, ovvero la capacità dei sistemi informatici di “vedere” e comprendere il contenuto di un’immagine.

Riconoscimento facciale e marketing

Da anni, i professionisti del marketing più all’avanguardia stanno sperimentando nuove tecniche di personalizzazione estrema basate sul riconoscimento facciale. Ad esempio: una persona entra in un negozio, le telecamere acquisiscono l’immagine del suo volto, questo viene confrontato con il database dei clienti e viene trovato il suo profilo. A quel punto, gli scaffali smart, l’impianto di radiofonia e gli stessi dipendenti si adattano ai gusti e alle informazioni sul cliente appena entrato in negozio, moltiplicando le probabilità di convincerlo ad acquistare.

Questo comportamento è legale? Secondo il Garante della privacy e il GDPR no, non lo è, e il perché è presto detto: al cliente non è stato chiesto il consenso al trattamento della propria immagine o, nella migliore delle ipotesi, questo consenso è stato estorto o chiesto in modi poco chiari. Da questo punto di vista, il riconoscimento facciale può essere considerato la versione offline dei cookie.

Quanto è preciso il riconoscimento facciale?

Negli ultimi cinque anni sono stati condotti diversi studi sulle reali capacità dei principali software di riconoscimento facciale in commercio, ad esempio quelli di Microsoft, IBM, Face++ e così via.

Uno dei più interessanti è Gender Shades, una ricerca di Joy Buolamwini sulla precisione con cui l’AI riconosce il genere di una persona. Il risultato di questo studio è che gli algoritmi delle più grandi tech company hanno difficoltà a riconoscere le donne negre. Un altro studio della Colorado University, sempre su AI e riconoscimento del genere, ha evidenziato come gli algoritmi non siano in grado di riconoscere le persone transessuali, soprattutto durante il processo di transizione. Quando arriviamo alle persone che si considerano non binarie o queer, l’AI fallisce nel 100% dei casi.

Questo spiegherebbe il frustrante caso di Janey Webb e altri driver transessuali di Uber, la cui app identifica i lavoratori mediante un selfie. Janey era costretta a raggiungere ogni giorno la sede fisica di Uber per timbrare il cartellino, dato che l’app non le permetteva di autenticarsi in remoto. L’applicazione di riconoscimento facciale semplicemente non riconosceva il suo volto!

Perché succedono queste cose? Perché l’AI è creata e allenata da esseri umani, e gli esseri umani hanno pregiudizi e commettono errori. Ad esempio, i risultati della ricerca Gender Shades si spiegano così: nella società statunitense le donne e i negri sono sottorappresentati (e discriminati) e questo si riflette nel mondo virtuale e nell’AI.

Quindi, non solo abbiamo problemi di privacy, ma anche etici e la cosa non finisce qui. All’elenco di limiti del riconoscimento facciale dobbiamo aggiungere anche quelli più facili da indovinare, ovvero quelli tecnici.

Limiti tecnici del riconoscimento facciale

Che cosa succede quando la telecamera opera in condizioni di scarsa illuminazione? E se la persona di cui si cerca di acquisire l’immagine non guarda la telecamera o è in movimento? E di notte? E se ha delle ferite in volto o un piercing o un tatuaggio?

Le soluzioni di AI per il riconoscimento facciale non sono perfette, ognuna è più adatta a certe condizioni piuttosto che altre. Ad esempio, per riprese notturne è necessaria una telecamera a infrarossi e una tecnologia di riconoscimento basata su mappe termiche piuttosto che sulla misurazione di segmenti lineari, ma questa stessa tecnologia non andrà bene di giorno.

La nuova frontiera del riconoscimento facciale è la versatilità, ma soprattutto l’implementazione del lidar, una tecnologia radar per il riconoscimento 3D, che esegue una scansione simile a quella di un sonar e produce dati biometrici sulla distanza dei punti di misurazione dal dispositivo. Questi vengono incrociati con quelli 2D, migliorando notevolmente la precisione del rilevamento e dell’identificazione.

Tuttavia, il lato negativo di questi nuovi sviluppi è che contrastano uno dei vantaggi del riconoscimento facciale (almeno ai suoi albori), ovvero il fatto di essere molto economico.

Come proteggere la propria immagine

Innanzitutto, è fondamentale rimanere sempre aggiornati perché il panorama e le leggi cambiano rapidamente, ma la cosa più importante è ricordarsi che il GDPR e la legislazione italiana tutelano il cittadino e i suoi dati biometrici, considerati dati sensibili a tutti gli effetti in quanto PII, ovvero Informazioni che permettono di identificare una persona.

In particolare, ricordati che hai il diritto di revocare il consenso al trattamento dei tuoi dati personali e quindi della tua immagine in qualsiasi momento, nonché il diritto all’oblio, ovvero a che il tuo volto e le tue foto vengano eliminate definitivamente dai database delle aziende (per quanto riguarda il governo è un’altra storia).

Per maggiori informazioni sugli aspetti legali in Italia e nel mondo, ti rimandiamo a questo completissimo reportage di Agenda Digitale sul riconoscimento facciale. E per concludere, ti ricordiamo di proteggere i tuoi dati biometrici e le tue foto installando un buon antivirus su PC e smartphone.

Buona navigazione e buona protezione della tua immagine!