Una empresa de seguridad llamada Sensity dice que recientemente descubrió una red de bots deepfake en la aplicación de chat Telegram que crea imágenes de mujeres desnudas generadas por computadora a pedido. En julio de 2020, la firma descubrió que los bots habían generado deepfakes de aproximadamente 104.000 mujeres. En los últimos tres meses, su producción ha aumentado casi un 200 por ciento. Es de esperar que el software haya pasado la mayor parte del tiempo procesando imágenes de celebridades, pero parece que la mayoría de la gente lo usó para crear fotos desnudas de mujeres que conocen en la vida real. En cualquier caso, la mayoría de las víctimas probablemente no sepan que hay imágenes falsas de ellas flotando en Internet. La firma también descubrió que un «número limitado» de fotos muestra a niños menores de edad.

La mayoría de las personas que usan el software, alrededor del 70 por ciento, provienen de Rusia, un país que hasta hace poco había prohibido Telegram. En Rusia, el bot también llegó a VK, la red social más grande del país. Una encuesta que Sensity encontró en una de las comunidades públicas de Telegram dedicadas al software sugiere que el bot no ha encontrado un uso generalizado en países de habla inglesa como el Reino Unido, el Reino Unido y Canadá, al menos todavía no.

El bot es de uso gratuito, pero los usuarios pueden comprar «monedas premium» que eliminan una marca de agua generada por el software y aceleran el procesamiento. Un juego de 12 monedas cuesta el equivalente a $ 1.30. Sensity dice que el software que sustenta las capacidades del bot es probablemente una versión de código abierto de DeepNude. El algoritmo de aprendizaje automático ganó notoriedad el año pasado cuando su creador lo vendió brevemente en línea.

Desde entonces, el software ha llegado a repositorios de código abierto y sitios web de torrents. Normalmente, el algoritmo DeepNude requiere una PC con una GPU dedicada para funcionar. Sin embargo, todo el ecosistema de bots de Telegram se ejecuta desde servidores en línea, lo que permite que cualquier persona con un teléfono acceda al software. Esa es una de las principales razones por las que el bot ha tenido tanto uso en tan poco tiempo. También subraya lo difícil que será contener el software.  

Leer también  Los científicos podrían saber por qué los astronautas desarrollan problemas de salud en el espacio

Nos comunicamos con Telegram para solicitar comentarios y actualizaremos este artículo cuando tengamos noticias de la compañía. Sensity dice que la empresa no ha respondido a sus intentos de comunicarse.