Bots de inteligencia artificial en Telegram: ¿Una nueva amenaza?
Los bots de inteligencia artificial se han convertido en una herramienta polémica en Telegram, con millones de usuarios utilizándolos para generar contenido explícito sin el consentimiento de las personas. Estos bots, como el conocido “Nudify”, permiten desvestir digitalmente a personas en fotografías, enfocándose principalmente en mujeres y menores. Según se estima, más de cuatro millones de personas han hecho uso de estas herramientas, lo que plantea serias preocupaciones sobre la privacidad y la seguridad en la red.
A principios de 2020, el experto en deepfakes, Henry Ajder, detectó uno de los primeros bots de Telegram diseñados para «desnudar» fotos de mujeres mediante inteligencia artificial. En aquel entonces, el bot ya había generado más de 100,000 imágenes explícitas, incluidas las de menores de edad. Ajder destacó que este evento marcó un punto de inflexión en el uso de bots de inteligencia artificial, mostrando el impacto y los peligros potenciales de los deepfakes en la vida real.
Desde ese momento, los deepfakes no solo se han vuelto más comunes, sino que también han mejorado en calidad y se han vuelto más accesibles para el público. Según un informe de WIRED, actualmente se han identificado al menos 50 bots que afirman tener la capacidad de desnudar personas en fotografías, lo que demuestra la magnitud del problema.
El impacto de los bots en la vida de las mujeres
TAMBIÉN TE PUEDE INTERESAR: Telegram impide ocultar IP y el número de teléfono bajo nuevas leyes de privacidad
Los bots varían en sus capacidades y algunos incluso publicitan que pueden crear imágenes de personas en actos sexuales explícitos. Estos 50 bots suman más de 4 millones de usuarios activos mensuales, lo que evidencia la popularidad y el alcance de estas herramientas en la plataforma.
Henry Ajder considera alarmante el crecimiento de estos bots de inteligencia artificial en Telegram, mencionando que hay un “aumento significativo” en la cantidad de personas que utilizan y crean este tipo de contenido. Para él, estas herramientas se han convertido en una auténtica «pesadilla» para las mujeres, quienes muchas veces se ven difamadas y extorsionadas con estas imágenes ultrarrealistas. Este tipo de contenido no solo daña la reputación de las víctimas, sino que también es utilizado para ejercer chantaje y control sobre ellas, generando un entorno de vulnerabilidad e inseguridad.
La responsabilidad de Telegram
A pesar de las consecuencias devastadoras de estos bots, Telegram ha sido criticado por su falta de acción ante estos problemas. El CEO de la plataforma, Pavel Durov, ha enfrentado cargos en el pasado relacionados con la facilitación de pornografía infantil en la aplicación. En agosto pasado, tanto él como su hermano Nikolái fueron arrestados en Francia bajo acusaciones que señalaban la falta de moderación en los canales de Telegram, lo que permitía la difusión de contenido explícito sin control.
Ante estas acusaciones, Durov se comprometió a transformar la política de moderación de Telegram. Afirmó que haría de la moderación una prioridad crítica en la plataforma, implementando cambios significativos que comenzaron con la última actualización de la aplicación. Sin embargo, algunos usuarios y expertos se muestran escépticos sobre si estas medidas serán suficientes para frenar el uso inapropiado de bots de inteligencia artificial y de deepfakes en general.
La necesidad de un enfoque global para regular la inteligencia artificial
El Foro Económico Mundial ha hecho un llamado para abordar la oleada de usos indebidos de la inteligencia artificial generativa, señalando que este es un desafío urgente que debe ser abordado por gobiernos, empresas, ONG y medios de comunicación de manera conjunta.
En su informe, mencionan que se necesita un marco unificador para comprender y combatir el proceso de mal uso de la inteligencia artificial generativa. Sin un enfoque cohesivo, advierten, las respuestas fragmentadas de las partes interesadas podrían ser insuficientes para enfrentar este problema de manera efectiva.
La regulación y el futuro de los bots de inteligencia artificial
La regulación de los bots de inteligencia artificial sigue siendo un tema complejo. Por un lado, los gobiernos y las empresas tecnológicas deben actuar con rapidez para crear normativas que limiten el uso de estas herramientas con fines maliciosos. Por otro lado, las plataformas como Telegram deben asumir una responsabilidad activa en la moderación de contenido y la protección de los usuarios. En el caso de los deepfakes, es esencial que se implementen algoritmos capaces de detectar y bloquear automáticamente este tipo de contenido, previniendo que estas imágenes se difundan.
A pesar de los esfuerzos de algunos gobiernos y organizaciones, la velocidad con la que avanza la tecnología de inteligencia artificial supera, en muchos casos, la capacidad de regulación. Esto plantea la necesidad de una colaboración internacional que permita desarrollar y compartir tecnologías de detección y moderación de manera más eficiente.
El creciente uso de bots de inteligencia artificial con fines maliciosos, como la creación de deepfakes en Telegram, es un problema que afecta a millones de personas, en su mayoría mujeres y menores de edad. Las plataformas digitales, los gobiernos y la sociedad en general deben colaborar para enfrentar esta amenaza de manera efectiva.
La tecnología de inteligencia artificial tiene un enorme potencial para mejorar vidas, pero también puede ser utilizada con fines destructivos si no se regula adecuadamente, tal es el caso de los bots de inteligencia artificial. Combatir estos usos indebidos y proteger a las víctimas debe ser una prioridad para todos los actores involucrados.
