Un gruppo di cybercriminali organizza nuove truffe sui siti di incontri con video realizzati con l’AI.

Erano mesi che aspettavamo, tristemente, di dare una notizia del genere, e infine è arrivato il momento: un gruppo di cybercriminali ha trovato il modo di utilizzare l’AI generativa per creare video in tempo reale con identità false e utilizzarli nelle proprie truffe romantiche. Il risultato: le truffe sono sempre più credibili e le vittime aumentano.

In particolare, la rivista Wired e David Maimon, professore della Georgia State University, hanno segnalato il caso di un gruppo non articolato di truffatori basati in Nigeria che si fa chiamare Yahoo Boys e comunica soprattutto tramite canali di Telegram.

In questo post vediamo come funzionano le nuove truffe romantiche con deepfake in tempo reale, chi sono gli Yahoo Boys e come difendersi da queste minacce online. Buona lettura!

Premessa: le truffe romantiche

Per chi non lo sapesse, con il termine “truffe romantiche”, in inglese romance scam, si intendono le truffe su siti e app di incontri o più in generale online, con cui il truffatore (lo scammer) adotta un’identità falsa, seduce una persona e la convince a inviargli denaro, direttamente o tramite altre truffe secondarie, come le frodi con le criptovalute.

Le truffe romantiche sono diventate molto popolari con il diffondersi delle app come Tinder e dei siti di incontri online: le persone hanno integrato questa tecnologia e questo modo di conoscersi nelle loro abitudini, per cui sono meno diffidenti nei confronti di chi conoscono online e questo porta anche a un aumento delle truffe che sfruttano chi cerca l’amore o un po’ di divertimento.

Secondo l’FBI, le truffe romantiche (link in inglese) sono già costate più di 650 milioni di dollari a livello globale durante l’ultimo anno. Le vittime principali sono le donne single con potere acquisitivo medio/alto e i paesi più colpiti sono gli Stati Uniti e il Canada (principalmente per motivi linguistici).

Purtroppo, le truffe romantiche con deepfake sono facili da organizzare. Basta non avere scrupoli ed essere disposti a sfruttare fino in fondo la buona fede delle persone.

Chi sono gli Yahoo Boys

Gli Yahoo Boys sono un gruppo non organizzato di criminali che si dedicano a truffe online, soprattutto truffe romantiche. La maggior parte vive in Nigeria, dove sono nate alcune delle più popolari truffe online, come la famosa truffa alla nigeriana.

Questo gruppo di criminali opera in cellule separate senza una struttura comune né un leader e il loro nome, Yahoo Boys, rimanda appunto agli albori delle truffe online, che sfruttavano soprattutto le community di Yahoo! e le email. Inoltre, alcuni criminali di questo gruppo hanno rivendicato motivi politici e sociali: l’obiettivo delle truffe sarebbe quello di vendicarsi delle differenze economiche e sociali tra la propria nazione e il primo mondo, bianco e ricco, di cui gli Stati Uniti sono il rappresentante e quindi il bersaglio principale.

Una peculiarità di questo gruppo di criminali è che non occultano la propria identità, molto probabilmente perché non gli interessa e perché sanno che è molto difficile trovarli e arrestarli (più sotto vedremo anche perché).

Infine, è interessante notare che il fenomeno Yahoo Boys si è esteso molto in Nigeria. Fino a integrare rituali di magia negra e altre pratiche per guadagnare l’appartenenza alla categoria o direttamente per “diventare ricchi”.

Le truffe romantiche 2.0 con deepfake in tempo reale

Secondo Maimon, il professore statunitense che ha seguito gli Yahoo Boys negli ultimi anni, i criminali informatici sono stati tra i primi a fare esperimenti con l’intelligenza artificiale generativa per rendere le loro truffe più efficaci, e gli Yahoo Boys ci sono riusciti.

Tramite alcune app di face swap, ovvero di sostituzione del volto con immagini sintetiche, che preferiamo non citare per non aiutare altri criminali informatici, gli Yahoo Boys registravano video e audio con identità false che contribuivano a convincere le vittime, e in alcuni casi sono arrivati a usarli in tempo reale, cioè durante le videochiamate con la vittima.

Ecco come funziona una truffa romantica con deepfake

  1. Il criminale cerca una vittima che abbia buone probabilità di farsi ingannare. Ad esempio una persona sola da tempo o una vedova, e quando la trova costruisce un’identità falsa su misura, che corrisponda ai suoi gusti.
  2. Contatta la vittima e inizia a creare un legame, con complimenti, messaggi, foto e conversazioni. Già in questa fase, può registrare dei video che poi altera con app di AI generativa per assomigliare al partner ideale della vittima.
  3. In un secondo momento, organizza una videochiamata online per dare un’ultima prova della sua “esistenza” alla vittima. Durante la chiamata, la videocamera riprende un deepfake visualizzato su un altro telefono o su un computer portatile.
  4. Una volta creato un legame, o addirittura iniziata una relazione a distanza, il criminale comincia a fare richieste di denaro, generalmente con due motivi: o dice di dover fare un pagamento urgente e di avere il conto bloccato per vari motivi oppure propone investimenti in criptovalute con promesse di grandi profitti.
  5. La truffa si evolve nel tempo, fino a quando la vittima non si rende conto di essere stata ingannata. A quel punto, il criminale scompare semplicemente nel nulla.

Come si vede, il procedimento è semplice e l’uso dell’intelligenza artificiale per rendere le truffe ancora più credibili è molto basilare. Non servono competenze informatiche particolari, basta non avere scrupoli e usare tutti i mezzi disponibili per truffare la vittima prescelta.

Una domanda che si fanno molte persone è “perché le truffe romantiche funzionano?”. I motivi principali sono 2, uno psicologico e uno tecnologico. Innanzitutto, i criminali fanno ricerche approfondite sulle potenziali vittime e creano false identità e messaggi che fanno leva sulla solitudine o sul bisogno di affetto delle persone.

In secondo luogo, grazie all’AI generativa queste truffe sono più credibili: i messaggi sono scritti meglio grazie a chatbot come ChatGPT e i criminali includono audio e video sintetici di buona qualità, che convincono definitivamente la vittima della loro autenticità.

LEGGI ANCHE: Phishing, vediamo un caso reale

Aspetti legali e la risposta delle autorità

Le truffe online, in particolare il phishing e le truffe romantiche. Vengono prese molto sul serio dalle autorità di tutto il mondo, che collaborano spesso per tracciare e fermare i cybercriminali.

In particolare, in Italia, la Polizia Postale e l’Agenzia per l’Italia digitale (AGID) si impegnano già da anni per arginare questi fenomeni, ma ancora con scarsi risultati. Purtroppo, arrestare i criminali come gli Yahoo Boys è difficile per vari motivi:

  • Corruzione. In alcuni casi, i criminali corrompono le forze dell’ordine locali che potrebbero essere a conoscenza delle loro operazioni.
  • Difficoltà nell’applicare le leggi. Le leggi esistono, dato che l’uso di un’identità falsa è considerato reato di truffa in quasi tutti i paesi. Ma non è facile applicarle ai contesti online. Su questo punto, stanno lavorando attivamente sia il Governo italiano che le istituzioni dell’Unione europea.
  • Operazioni criminali transfrontaliere. La maggior parte di questi criminali si trova in paesi lontani e con scarsi rapporti diplomatici con il cosiddetto primo mondo. Il che complica molto le indagini e le operazioni di polizia internazionali.

Insomma, molti criminali informatici sono a piede libero non perché le forze dell’ordine non facciano niente al riguardo, ma perché è molto difficile risalire a queste persone e fermarle e, quando ci si riesce, per ogni criminale arrestato ne spuntano due nuovi.

L’impatto dell’AI sulle truffe romantiche

I criminali utilizzano i deepfake e l’AI generativa per creare identità false, che li aiutano in vari modi. Innanzitutto, queste identità gli consentono di mantenere l’anonimato ed essere più difficili da rintracciare, anche se, come nel caso degli Yahoo Boys, ci sono criminali a cui non importa esporsi, e anzi si vantano apertamente su YouTube e altre piattaforme online.

Poi, i deepfake video e audio hanno il grande vantaggio di consentire ai criminali di simulare l’aspetto desiderato dalle vittime, che saranno più inclini ad abbassare la guardia se dall’altra parte vedono un uomo (generalmente le vittime sono donne) che assomiglia al loro partner ideale.

Infine, usare identità false create con l’intelligenza artificiale generativa consente ai criminali informatici di operare a livello globale e mantenere conversazioni con più persone in più lingue contemporaneamente.

Insomma, i nuovi progressi degli algoritmi di intelligenza artificiale che generano contenuti testuali, immagini, audio e video sono diventati anche un’arma molto potente nelle mani dei criminali informatici più spregiudicati, e purtroppo fanno sì che i deepfake siano sempre più difficili da riconoscere.

L’AI aiuta i cybercriminali perché rende più credibili e personalizzate le truffe e gli consente di estendere le loro operazioni in tutto il mondo.

Come riconoscere uno scammer e difendersi dalle truffe romantiche

Ne abbiamo parlato anche in altri post sulle romance scam, ma vogliamo condividere ancora una volta i nostri consigli per difendersi dai truffatori online:

  • Verifica l’identità delle persone con cui parli

    Puoi fare una ricerca inversa basata su immagini, ad esempio con Google Lens, per vedere se le foto della persona con cui parli si trovano su altri social network e capire se esiste davvero.

  • Attenzione alle richieste di denaro

    Per quanto la prospettiva di una relazione sia allettante, bisogna sempre diffidare di questo tipo di richieste. È molto improbabile che una persona appena conosciuta e con buone intenzioni chieda il tuo aiuto finanziario o ti proponga investimenti in criptovalute.

  • Errori nella comunicazione

    Nonostante l’AI generativa sia sempre più potente, se noti qualche errore ortografico o grammaticale, potrebbe essere un indizio dell’uso di un traduttore automatico.

  • Parla con amici e familiari

     Spesso, parlare con un’altra persona che non è emotivamente coinvolta può aiutare a vedere le cose in modo più obiettivo.

  • Denuncia

    Se hai dei sospetti fondati. Non tagliare semplicemente i ponti con il truffatore e denuncialo alle autorità, in modo che possano bloccarlo prima che truffi altre persone.

Infine, ricordiamo che sia il settore privato che quello pubblico stanno studiando dei modi per arginare i deepfake e l’abuso dell’AI generativa, ad esempio con etichette che segnalano la genuinità dei contenuti o l’uso di tecnologie generative.

In questo post abbiamo visto come gli Yahoo Boys sono diventati nuovamente famosi per aver integrato i deepfake in tempo reale nelle loro truffe romantiche internazionali. Abbiamo descritto i motivi per cui queste truffe funzionano e sono difficili da fermare e abbiamo visto cosa puoi fare per difenderti dagli scammer online, romantici e non.

Per concludere, ti invitiamo a proteggere il più possibile i tuoi account online e a leggere regolarmente il nostro blog per conoscere le truffe più diffuse del momento. Facci sapere che cosa ne pensi nei commenti!

CONTINUA A LEGGERE: Sondaggio di cybersecurity, il 15% degli europei ha subito violenza di genere online

Buona navigazione e buona difesa dalle truffe romantiche con deepfake in tempo reale!