Les risques d’une utilisation malveillante de l’intelligence articficielle

En 2018, 26 experts spécialistes en intelligence artificielle, cybersécurité et robotique rédigeaient ensemble un rapport de 100 pages intitulé « The Malicious Use of AI ». Ils sonnaient l’alarme sur les risques d’une utilisation malveillante de l’intelligence artificielle par « des états voyous, des criminels, des terroristes ». Selon eux, dans les 10 prochaines années, les performances croissantes de l’IA permettront aux cybercriminels d’augmenter les attaques terroristes ou de manipuler des élections.

Dans le même temps, des personnalités influentes comme Stephen Hawking, Elon Musk et Bill Gates estiment qu’il faut être extrêmement prudent avec cette technologie. Sur ce sujet, Elon Musk a écrit : « Le rythme des progrès de l’intelligence artificielle (je ne parle pas d’IA étroite) est incroyablement rapide. À moins que vous ne soyez directement exposé à des groupes comme Deepmind, vous n’avez aucune idée de la vitesse à laquelle elle croît. A un rythme presque exponentiel. Le risque que quelque chose de très dangereux se produise se situe dans un délai de cinq ans, au maximum de 10 ans. »

Bien que l’IA ait un impact plutôt positif aujourd’hui sur l’humanité, le problème est qu’il tombe entre de mauvaises mains.
En dehors de la préparation d’un avenir avec des machines super intelligentes, l’IA peut déjà présenter des dangers sous sa forme actuelle.

Voici une liste non exhaustive des risques liés à l’intelligence artificielle.

Les armes autonomes

Les armes autonomes programmées pour tuer existent déjà. Imaginez les effets dévastateurs si une personne mal intentionnée pouvait la contrôler ? Et quid des armes nucléaires ?

Le président russe Vladimir Poutine a déclaré récemment : « L’intelligence artificielle est l’avenir, non seulement pour la Russie, mais pour toute l’humanité. Cela crée d’énormes possibilités, mais aussi des menaces difficiles à prévoir. Quiconque deviendra le leader dans cette sphère deviendra le dirigeant du monde ».
Une fois déployées, ces armes seront probablement difficiles à démanteler ou à combattre.

La manipulation sociale

Les médias sociaux, grâce à ses algorithmes autonomes, sont très efficaces pour le marketing ciblé. Ils savent à peu près tout de nous, et peuvent même influencer le résultat de l’élection présidentielle américaine de 2016 et du référendum sur le Brexit au Royaume-Uni (cf le scandale Cambridge Analytica). En propageant la propagande auprès d’individus identifiés par des algorithmes et des données personnelles, AI peut les cibler et diffuser les informations qu’ils souhaitent, dans le format qui leur semblera le plus convaincant – réalité ou fiction.

L’invasion de la vie privée et la classification sociale

Il est désormais possible de suivre et d’analyser chaque mouvement d’un individu en ligne ainsi que ses activités quotidiennes. Les caméras sont presque partout et les algorithmes de reconnaissance faciale savent qui vous êtes. Nous sommes dans l’ère du Big Brother. Il ne s’agit pas seulement d’une atteinte à la vie privée, cela peut rapidement se transformer en oppression sociale.

La discrimination

Étant donné que les machines peuvent collecter, suivre et analyser tellement de choses sur vous, il est très possible que ces machines utilisent ces informations contre vous. Il n’est pas difficile d’imaginer une compagnie d’assurance vous affirmant que vous n’êtes pas assurable en fonction du nombre de fois où vous avez été filmé devant une caméra en train de parler au téléphone en conduisant par exemple. Ou un employeur peut retenir une offre d’emploi basée sur votre « pointage de crédit social ».

La perte de contrôle

Jusqu’à présent, le développement d’une nouvelle technologie signifie toujours que l’humain (chercheurs, ingénieurs…) ont le contrôle sur l’orientation à suivre.
Le cas de l’IA est quelque peu différent. L’apprentissage non supervisé, c’est-à-dire que l’IA traite, analyse et tire des règles d’un ensemble de données sans aucune aide humaine, n’est pas encore au point, mais cela ne saurait tarder. Il sera alors crucial de lui fixer des limites, et espérer qu’elle s’y tiendra.

Le chômage

Au-delà du fait que l’apparition de l’IA crée de nouveaux emplois, il est certain qu’elle va aussi en supprimer beaucoup d’autres.

L’humanisation des machines

Nous parlons aujourd’hui à tous nos appareils : nous leur posons des questions, nous donnons des ordres et nous obtenons des réponses. Humaniser nos machines réduit la distance entre l’homme et la machine et peut créer une dépendance émotionnelle, créant des problèmes psychologiques à long terme sur de nombreuses personnes.

Toute technologie puissante peut être mal utilisée. Aujourd’hui, l’intelligence artificielle est utilisée pour de nombreuses bonnes causes, notamment pour nous aider à établir de meilleurs diagnostics médicaux, à trouver de nouveaux moyens de guérir le cancer et à rendre nos voitures plus sûres. Malheureusement, à mesure que nos capacités en matière d’intelligence artificielle s’élargiront, nous verrons également son utilisation à des fins dangereuses ou malveillantes. La technologie de l’IA progressant si rapidement, il est essentiel que nous commencions à débattre des meilleurs moyens pour que l’IA se développe de manière positive tout en minimisant son potentiel destructeur.