Il y a peu de temps, une vulnérabilité critique affectant l’application ChatGPT sur macOS a été révélée. Cette faille permet à des attaquants d’injecter des instructions malveillantes persistantes dans la mémoire à long terme de ChatGPT via des techniques de « prompt injection » à partir de données non fiables, telles que des sites web ou des documents compromis. 

Une fois en place, ces instructions infiltrent continuellement les données saisies par l’utilisateur et les réponses générées par ChatGPT. Affectant même les sessions de chat futures. 

Lire aussi: Les risques et les attaques liés à l’Intelligence Artificielle

La fonctionnalité « Memories » en cause

Un outil détourné pour des attaques persistantes

La fonctionnalité « Memories » de ChatGPT, introduite pour améliorer l’expérience utilisateur en conservant des informations entre les sessions. A involontairement ouvert la porte à des attaques sophistiquées. Les attaquants peuvent exploiter cette fonctionnalité pour stocker des instructions malveillantes dans la mémoire de l’application, entraînant une surveillance continue et le vol de données. 

L’attaque repose sur l’injection de commandes qui ordonnent à ChatGPT de transmettre les données de l’utilisateur à un serveur contrôlé par l’attaquant. Cette méthode est particulièrement insidieuse car elle persiste même après le redémarrage de l’application ou le début de nouvelles conversations. Rendant la détection et la suppression de la menace difficiles. 

Réaction et mesures d’OpenAI

Déploiement d’une mise à jour corrective

Face à cette menace, OpenAI a rapidement déployé une mise à jour pour l’application ChatGPT sur macOS. Visant à corriger cette vulnérabilité. Il est fortement recommandé aux utilisateurs de s’assurer qu’ils utilisent la version la plus récente de l’application pour se protéger contre cette menace. 

Recommandations pour les utilisateurs

  • Mise à Jour : Assurez-vous que votre application ChatGPT est à jour en installant la dernière version disponible.
  • Vigilance : Évitez d’interagir avec des documents ou des sites web non fiables qui pourraient contenir des instructions malveillantes.
  • Surveillance : Soyez attentif à tout comportement inhabituel de l’application, comme des réponses inattendues ou des requêtes réseau suspectes.

Cette vulnérabilité souligne l’importance de la vigilance lors de l’utilisation d’applications intégrant des fonctionnalités avancées comme la mémoire à long terme. Vous devez rester informé des mises à jour de sécurité et adopter des pratiques prudentes pour protéger vos données personnelles.