El sábado pasado, en el teléfono de Heejin apareció un mensaje de Telegram de un remitente anónimo. “Tus fotos e información personal han sido filtradas. Discutámoslo”.
Por BBC News Mundo
Cuando la universitaria entró en la sala de chat para leer el mensaje, recibió una foto suya tomada hace unos años, cuando aún estaba en la escuela. Le siguió una segunda imagen con la misma foto, sólo que esta era sexualmente explícita y falsa.
Aterrorizada, Heejin, que no es su verdadero nombre, no respondió, pero las imágenes siguieron llegando. En todas ellas, su rostro había sido unido a un cuerpo en pleno acto sexual, utilizando una sofisticada tecnología deepfake.
Los deepfakes, que combinan el rostro de una persona real con un cuerpo falso sexualmente explícito, se generan cada vez más mediante inteligencia artificial. “Me quedé petrificada, me sentí muy sola”, declaró Heejin a la BBC.
Pero no estaba sola.
Dos días antes, la periodista surcoreana Ko Narin había publicado lo que se convertiría en la mayor primicia de su carrera. Hace poco, la policía estaba investigando redes de pornografía falsa en dos de las principales universidades del país y Ko estaba convencida de que debía haber más.
Empezó a buscar en las redes sociales y descubrió docenas de grupos de chat en la aplicación de mensajería Telegram, donde los usuarios compartían fotos de mujeres que conocían y utilizaban software de inteligencia artificial para convertirlas en imágenes pornográficas falsas en cuestión de segundos.
“Cada minuto la gente subía fotos de chicas que conocía y pedía que las convirtieran en deepfakes“, afirmó Ko.
Ko descubrió que estos grupos no sólo se dirigían a estudiantes universitarias. Había salas dedicadas a determinados institutos e incluso colegios. Si se creaba mucho contenido con imágenes de una alumna en concreto, incluso se le podía asignar una sala propia. Estos espacios virtuales, denominados “salas de humillación” o “salas de amigos de amigos”, suelen estar sujetas a estrictas condiciones de acceso.
El reportaje de Ko en el diario Hankyoreh ha conmocionado a Corea del Sur. El lunes, la policía anunció que estaba considerando abrir una investigación sobre Telegram, siguiendo el ejemplo de las autoridades francesas, que imputaron al fundador ruso de Telegram por delitos relacionados con la aplicación. El gobierno ha prometido imponer penas más severas a los implicados y el presidente ha pedido que se eduque mejor a los jóvenes.
En una declaración facilitada a la BBC, Telegram afirma que “combate activamente los contenidos nocivos en su plataforma, incluida la pornografía ilegal”.
Un proceso sistemático y organizado
La BBC ha visto las descripciones de varios de estos chats. En uno de ellos se pide a los miembros que publiquen más de cuatro fotos de alguien, junto con su nombre, edad y la zona en la que vive.
“Me sorprendió lo sistemático y organizado que era el proceso”, declaró Ko. “Lo más horrible que descubrí fue un grupo para alumnos menores de edad de un colegio que tenía más de 2.000 miembros”.