Robaba fotos de sus compañeras de un colegio de San Martín, las manipulaba con IA y las vendía: el nuevo caso de deepfake que llegó a la Justicia

Son adolescentes que están a poco de terminar la secundaria en el Colegio Agustiniano y de pronto se encuentran con imágenes de ellas manipuladas y difundidas a través de un sitio web. El vendedor es un compañero del colegio de las víctimas, que les robó esas fotos de las redes y, con inteligencia artificial, las desnudó.

Para dar con él, un compañero de las víctimas se hizo pasar por interesado y pudo saber quién era realmente el adolescente detrás de la venta de ese contenido. Con esos datos, los padres de la víctima se acercaron al colegio y la respuesta los descolocó. “Nos dijeron que no podían hacer nada, que todo había pasado afuera del colegio”, contó Florencia, la mamá de una de las víctimas a El Destape. “Además les cuestionaron que ellas habían subido esas fotos a sus propias redes” culpando así a la víctima, destacó.

Ante esta respuesta, los padres se comunicaron con una ONG especializada en grooming y así llegaron a la Justicia. “A mediados de agosto ya allanaron a este joven y le secuestraron equipos tecnológicos. Ahora estamos esperando que hagan las pericias”, aseguró Florencia. Por su parte, los padres del adolescente denunciado lo defienden y “nos dijeron que en junio le habían robado el teléfono y que esa persona lo estaba haciendo pero cuando da los datos para vender las imágenes son los datos de él”. Además, Florencia contó que “por el momento lo cambiaron de modalidad en el colegio pero se sigue cruzando a la salida con las chicas. Pedimos que pudiera hacer las clases online o cualquier otra forma pero nos dijeron que no se podía y que si él termina suicidándose era culpa de las chicas”, como forma de culpar a las víctimas de lo que le pasó.

En paralelo, los padres denunciantes luchan contra una especie de vacío legal acerca de la legislación sobre estos temas. “Argentina adhirió al convenio de Budapest, dedicado a los ciberdelitos pero hizo reserva en varios puntos sobre los cuales no se legisla todavía. Debería haber una legislación expresa pero todavía nos falta eso”, destacó en comunicación con El Destape Lucas Moyano, fiscal especializado en ciberdelitos del Departamento Judicial de Azul. En el mismo sentido, el fiscal destacó que “un reciente informe de Europol señaló que creció un 360 por ciento la cantidad de imágenes sexuales de menores realizadas con IA” que circulan en las redes. “En este caso particular creo que se puede avanzar con varias figuras del código penal porque al estar la cara y una representación se podría calificar el delito”, remarcó.

Además, Moyano puso el foco sobre el uso de la Inteligencia Artificial para la producción de material de abuso sexual infantil ya que “según las agencias internacionales se amplifica la cantidad de material y la difusión es mucho más rápida, al tiempo que aunque las imágenes son creadas, generan un gran daño psicológico en las víctimas reales”. En ese sentido, el especialista volvió a advertir que “dentro de los fundamentos para reclamar su incorporación al Código Penal y su penalización se encuentra que este material banaliza y puede contribuir a la aceptación de la explotación sexual de niñas, niños y adolescentes”. 

Ahora, la causa quedó en manos de la Fiscalía de responsabilidad juvenil que espera los resultados de las pericias, mientras los padres de las víctimas pidieron una medida cautelar y de restricción para el alumno denunciado y que también se avance en la investigación sobre los mayores que compraron el material a través de Discord y Telegram. Mientras tanto, desde el Colegio Agustiniano no emitieron ningún comunicado y se desligaron culpando a las chicas por subir fotos a sus redes sociales.