Les dangers des deepfakes et cheapfakes

Comme le prétend Donald Trump à tout bout de champs, nous sommes entourés de fake news. Mais un phénomène beaucoup plus inquiétant est apparu ces derniers temps : les deepfakes.

Qu’est-ce qu’un deepfake ?

Un deepfake est une vidéo ou un enregistrement audio produits ou modifiés grâce à l’intelligence artificielle. Ces vidéos visent à tromper le spectateur en montrant des célébrités ou des gens ordinaires faisant ou disant des choses qu’ils n’ont jamais faites ou dites. L’intelligence artificielle, bien utilisée, peut créer des résultats hyper réalistes, à tel point qu’il est presque impossible de détecter le vrai du faux.

Le mot deepfake est une contraction des expressions « deep learning » et « fake » qui sous entendent l’idée de contenus fallacieux rendus « profondément » crédibles à l’aide de l’intelligence artificielle

Ce nom est aussi directement lié au pseudonyme d’un utilisateur de Reddit qui a utilisé cette technique du deep learning pour intégrer les visages de célébrités sur des corps d’actrices porno. Il s’agit du tout premier cas d’usage du deepfake à connaître une popularité de masse.

Depuis ces vidéos apparues en 2018, d’autres experts de l’intelligence artificielle se sont amusés à faire parler des acteurs ou des hommes politiques comme cette fameuse vidéo de Barack Obama insultant copieusement Donald Trump. Un jeu qui s’avère tout de même un peu dangereux lorsque ces vidéos nuisent à la réputation de quelqu’un ou pire, aux relations diplomatiques internationales.

Et un cheapfake ?

Un cheapfake, comme son nom l’indique, est un contenu modifié, beaucoup moins élaboré qu’un deepfake mais capable tout de même de tromper la surveillance des règles de diffusion des réseaux sociaux. Ce terme a été inventé par deux chercheuses : Britt Paris et Joan Donovan, et apparaît dans le rapport « Deepfakes and Cheap Fakes. The Manipulation of audio and visual evidence » publié par Data&Society.

Selon elles, les deepfakes (coûteux et avec un rendu professionnel) ne sont qu’une petite partie des contenus modifiés circulant sur le web.

D’autres techniques existent : moins coûteuses (cheap) et accessibles à tous comme After Effect, Premiere Pro, Sony Vegas Pro permettent à n’importe qui dès l’âge de 10 ans de créer des cheapfakes. Il suffit d’avoir un peu l’habitude de SnapChat, TikTok ou Instagram.

Avec ces cheapfakes, nous réalisons que les contenus, une fois décontextualisés, ralentis ou simplement accélérés n’ont pas besoin d’être de haute qualité pour être crédibles.

Comment fabrique-t-on un deepfake ?

Les techniques ont évolué à une vitesse hallucinante depuis l’apparition de l’intelligence artificielle. Aujourd’hui, elle n’est plus réservée à quelques experts mais bien à n’importe qui. Il existe de nombreux programmes et applications vous permettant de réaliser un deepfake sans connaissances techniques.

Les deepfakes reposent sur la technique des « réseaux antagonistes génératifs » (GANs) : c’est une technique de machine learning qui met en compétition deux algorithmes.

A partir d’images trouvées sur le web, le premier algorithme « générateur » crée de fausses imitations aussi crédibles que possible. Le deuxième algorithme « discriminateur » détecte les fakes le plus efficacement possible. Chaque algorithme progresse de son côté jusqu’à ce que le résultat soit hyper réaliste, c’est-à-dire jusqu’à ce que le premier algorithme produise des vidéos si réalistes que le deuxième ne puisse plus détecter la supercherie.

Plus vous fournissez de données à l’algorithme au départ, plus ce sera facile pour lui de créer des faux. C’est pour cette raison que les deepfakes concernent souvent des célébrités, car un grand nombre de vidéos, photos sont accessibles sur le web.

Si vous-même souhaitez en fabriquer un, il suffit aujourd’hui de vous procurer une des nombreuses applis disponibles, de compiler des vidéos de la personne avec laquelle vous souhaitez réaliser un montage et de les entrer dans le logiciel.

L’intelligence artificielle fait le montage pour vous.

Quels sont les risques liés aux deepfakes ?

L’intelligence artificielle permet à n’importe qui de créer un deepfake facilement. Tout le monde peut donc produire du contenu pour servir ses propres intérêts ou nuire à quelqu’un. Les deepfakes peuvent se propager à grande vitesse sur les réseaux. Cela peut être très drôle de faire dire n’importe quoi à un politicien ou une célébrité, mais ils pourraient aussi être utilisés à des fins plus nuisibles, comme la propagande ou le terrorisme. Rien n’empêche de créer des alertes à la bombe, de discréditer un candidat à l’élection ou de ruiner un mariage avec une fausse sextape. Manipulation, désinformation, humiliation, diffamation… les dangers des deepfakes sont innombrables, et au fil du temps, les internautes pourraient définitivement cesser de faire confiance à ce qu’ils voient en vidéo.

Que faire si vous tombez sur un deepfake ?

Si vous avez des doutes sur une vidéo, n’hésitez pas à rechercher sur le web des sources alternatives et fiables pour corroborer cette information. En ce qui concerne votre sécurité personnelle, faites bien attention à ce que vous téléchargez sur les réseaux et si vous êtes victime vous-même d’un chantage à cause d’un deepfake, signalez-le immédiatement à la police.