À l’aide de centaines de minuscules capteurs et caméras, soutenus par un puissant ordinateur à intelligence artificielle, la conduite autonome est autorisée sur les routes publiques. Le faire en toute sécurité nécessite une grande intelligence.
Lorsque les conditions sont réunies, les systèmes d’intelligence artificielle sont extrêmement performants. Mais lorsqu’ils rencontrent une condition inconnue, ils peuvent aussi devenir idiots.
C’est ainsi qu’une voiture autonome coûtant des dizaines de milliers de dollars peut être « cassée » en utilisant du ruban adhésif coûtant quelques centimes.
Apprendre à quoi s’attendre
Comme un enfant à l’école, les systèmes d’intelligence artificielle doivent être formés. Les chercheurs introduisent des milliers de données dans l’intelligence artificielle du moteur afin qu’il puisse apprendre à conduire la voiture. Cela comprend des millions de photographies et de vidéos afin que la voiture reconnaisse les autres véhicules, les marquages routiers, les panneaux et les dangers généraux qu’elle rencontrera au cours d’un voyage.
L’intelligence artificielle du moteur devient excelle à reconnaître les caractéristiques qui correspondent aux données avec lesquelles elle a été formée. Lorsque la voiture voit un panneau de limitation de vitesse, elle peut freiner ou accélérer en conséquence.
Mais si la voiture rencontre quelque chose pour lequel elle n’a pas été entraînée, le système d’intelligence artificielle effectue un calcul de meilleure estimation – et c’est là que des problèmes peuvent survenir.
La différence entre l’intelligence humaine et artificielle
Parfois, ces différences inattendues peuvent être incroyablement subtiles. Prenez le signe ci-dessous :
De toute évidence, il y a quelque chose qui ne va pas avec le panneau, mais un conducteur humain peut voir qu’il y a un problème et reconnaître quelle devrait être la limite de vitesse – 35. Les systèmes d’intelligence artificielle ne sont pas aussi intelligents. La bande sur ce signe confond les caméras de la voiture ; au lieu de « 35 », la voiture voit « 85 » et accélère bien au-delà de la limite légale.
D’autres expériences ont produit des effets similaires. Avec quelques morceaux de ruban adhésif, la signification d’un panneau de signalisation peut être complètement changée. Lorsque cela se produit, la voiture autonome devient plus imprévisible – et dangereuse.
La bonne nouvelle est que les data scientists sont conscients de ces problèmes et s’emploient activement à les prévenir. Mais comme pour tout autre aspect de la sécurité informatique, il y a une bataille constante alors que les spécialistes tentent d’identifier et de corriger les problèmes aussi rapidement que les criminels et les pirates informatiques les développent.
Un problème qui ne se réglera pas de sitôt
La réalité est que l’intelligence artificielle est incroyablement efficace pour les tâches ciblées avec des événements prévisibles. Ces systèmes éprouvent des difficultés lorsqu’ils rencontrent quelque chose qui ne relève pas de leur formation, même si le changement est infime, comme un morceau de ruban adhésif.
Alors que l’intelligence artificielle devient un aspect encore plus important de la vie moderne, nous pouvons nous attendre à voir des « piratages » similaires se produire – et pas seulement sur les voitures intelligentes. Presque tous les systèmes qui peuvent être trompés ou cassés, et comme le montre le problème du ruban adhésif, ces attaques sont incroyablement faciles et efficaces.
