TikTok, la populaire application vidéo, a récemment mis à jour ses politiques de modération pour faire face à la montée en puissance des deepfakes sur sa plateforme.
Alors que la pression politique s’accroît sur la société mère chinoise ByteDance, TikTok a décidé d’interdire les deepfakes de personnalités non publiques et les fausses mentions dans les mises à jour de ses règles.
Les lignes directrices de la communauté de TikTok, qui régissent le contenu autorisé sur la plateforme, ont été révisées pour inclure des restrictions plus strictes concernant les deepfakes générés par l’intelligence artificielle (IA). Ces vidéos manipulées, de plus en plus populaires ces derniers mois, ont attiré l’attention en raison de leur réalisme et de leur capacité à induire en erreur les utilisateurs.
Auparavant, les règles de TikTok concernant les deepfakes étaient assez limitées, se concentrant principalement sur les contenus déformant la vérité des événements ou causant un préjudice important aux personnes concernées. Désormais, TikTok exige que tout contenu réaliste créé et édité par l’IA soit clairement identifié comme tel, que ce soit dans la légende de la vidéo ou par le biais d’un autocollant superposé.
La nouvelle politique de TikTok stipule explicitement qu’aucun média synthétique ne sera autorisé s’il présente la ressemblance d’une personnalité privée ou s’il implique une personnalité publique en soutenant un produit ou en violant d’autres règles de l’application, telles que l’interdiction du discours de haine. Les personnalités publiques sont définies comme des individus de 18 ans ou plus occupant des rôles importants dans la société, tels que des fonctionnaires gouvernementaux, des politiciens, des chefs d’entreprise ou des célébrités.
L’utilisation de l’IA pour créer du contenu sur TikTok a connu une augmentation significative ces derniers temps, en grande partie grâce à la disponibilité accrue d’outils de clonage vocal basés sur l’IA qui permettent de reproduire facilement la voix de quelqu’un. Cette tendance a engendré de nouveaux sous-genres de contenus, souvent axés sur la mise en scène de personnalités publiques telles que le président Joe Biden et l’ancien président Donald Trump dans des situations inattendues.
Cependant, certains deepfakes ont eu des conséquences préjudiciables, notamment en diffusant des déclarations transphobes ou homophobes attribuées à des personnalités publiques, ce qui a suscité une préoccupation croissante. L’interdiction des mentions de deepfakes par TikTok semble être une réponse spécifique à une vidéo mettant en scène Joe Rogan faisant la promotion d’un « booster de libido pour les hommes », qui a rapidement été partagée sur d’autres plateformes sociales telles que Twitter et Instagram.
La mise à jour des politiques de TikTok survient à un moment où la société mère ByteDance fait face à une pression politique croissante, avec des gouvernements occidentaux exprimant des inquiétudes quant à la collecte de données privées par l’application et à son potentiel d’influence sur l’opinion publique. Le gouvernement américain a même menacé d’interdire publiquement TikTok si ByteDance ne vendait pas ses parts, entraînant déjà l’interdiction de l’application sur les appareils gouvernementaux dans plusieurs pays.
Bien que ces nouvelles politiques de TikTok ne résolvent pas directement les problèmes qui pèsent sur l’entreprise, elles témoignent de sa volonté d’offrir davantage de transparence quant à ses règles et à leur application. La société a également publié une liste de huit « principes communautaires » qui guident ses décisions d’application, mettant en avant la prévention des préjudices et la préservation de la liberté d’expression.
La nouvelle version des règles communautaires de TikTok est entrée en vigueur le 21 avril, incitant les utilisateurs à signaler les deepfakes qui ne divulguent pas leur caractère artificiel. La plateforme encourage également l’utilisation de stickers ou de légendes spécifiques pour garantir une transparence vis-à-vis des utilisateurs et leur permettre de distinguer les médias synthétiques ou manipulés des contenus authentiques.
Panda Security est spécialisé dans le développement de produits de sécurité des points d'accès et fait partie du portefeuille WatchGuard de solutions de sécurité informatique. Initialement axée sur le développement de logiciels antivirus, l'entreprise a depuis élargi son champ d'activité à des services de cybersécurité avancés avec une technologie de prévention de la cybercriminalité.
