Un bot generador de deepfakes, que ha utilizado sin consentimiento las imágenes de cientos de miles de mujeres, ha sido detectado en la aplicación Telegram. El bot permitía sustituir los cuerpos vestidos en las fotos por imágenes de desnudos. Más de 100.000 de estos contenidos sexuales no consentidos se han publicado en línea, pero se cree que el bot ha producido muchos más que no han podido ser rastreados. Algunas de las imágenes generadas por el bot -gratuito y fácil de usar- son defectuosas, pero otras podrían pasar por auténticas, según ha explicado la compañía especializada en la detección de deepfakes Sensity, que ha dado la voz de alarma.

El bot enviaba cada día una galería de nuevas imágenes a un canal de Telegram asociado, con casi 25.000 suscriptores. Fue utilizado por miles de personas para crear imágenes de desnudos de amigas y conocidas. Sensity sólo ha podido contabilizar las imágenes compartidas públicamente, pero señala que la aplicación también ofrece la opción de generar fotos en privado. El bot -y una serie de canales de Telegram vinculados- son en su mayoría de lengua rusa, pero también aparecen algunas traducciones al inglés. En varios casos las imágenes creadas parecen pertenecer a menores de 18 años, según advierten los expertos de Sensity, que han explicado que no tiene forma de verificarlo pero que han informado a las autoridades de su existencia.

Las imágenes se generan automáticamente al subir una fotografía de una persona vestida. El análisis de Sensity concluye que la tecnología sólo funciona con fotografías de mujeres y que el bot es de uso libre, aunque está limitado a 10 imágenes por usuario cada día, y que hay que pagar un extra para eliminar las marcas de agua. Una versión premium costaría alrededor de 8 dólares para conseguir 112 imágenes diarias.

Se cree que este bot se basa en el software DeepNude, cuya existencia reveló Vice en un artículo en junio de 2019. Este programa usaba la Inteligencia Artificial (IA) para ‘desnudar’ a mujeres, se trataba en concreto de un software basado en redes generativas adversarias (GAN) y que tampoco funcionaba con fotografías de hombres.

Sin respuesta de Telegram

Telegram, por su parte, no se ha pronunciado sobre el bot ni sobre las imágenes abusivas que éste produce. El informe de Sensity también dice que la compañía no respondió cuando los analistas hicieron la denuncia hace varios meses. El bot ya ha sido bloqueado en iOS por violar las directrices de la App Store, según han señalado los mismos investigadores. El canal principal de Telegram que alojaba el bot y un canal afiliado para compartir sus creaciones han sido eliminados. También ha trascendido que las autoridades nacionales italianas han abierto una investigación sobre esta herramienta de deepfake.

Los expertos temen que este tipo de imágenes se utilicen cada vez más para humillar y chantajear a mujeres en línea. La tecnología de los deepfakes se está desarrollando deprisa, mucho más rápido que la legislación que los regula. Desde que aparecieron por primera vez estas falsificaciones, a finales de 2017, se han utilizado principalmente para abusar de la imagen de mujeres. Y su crecimiento en el último año ha sido exponencial, ya que la tecnología necesaria para generarlos se está volviendo más barata y fácil de usar. En julio de 2019 había 14.678 vídeos de deepfakes en línea, según una investigación previa de Sensity. Para junio de este año el número había subido a casi 50.000.