La jueza Marta Rut Legarreta a cargo del Juzgado de Familia, Niñez y Adolescencia de Paso de los Libres, dictó una medida cautelar para proteger los derechos de adolescentes cuyos rostros fueron utilizados sin consentimiento en imágenes íntimas falsas, generadas mediante inteligencia artificial a través de una aplicación.

La medida regirá hasta tanto se acredite el cese del riesgo de daño, priorizando a las adolescentes afectadas.

La medida cautelar de protección se dictó en el marco de una causa por vulneración de derechos de adolescentes. La jueza Marta Rut Legarreta ordenó al Enacom el bloqueo inmediato de un sitio web desde el territorio argentino.

La aplicación utilizaba inteligencia artificial para generar imágenes de desnudez falsas con rostros reales sin consentimiento.

La resolución se emitió tras tomarse conocimiento del uso de esta herramienta tecnológica y su difusión a través de WhatsApp. La jueza advirtió que el daño concreto se produjo por el funcionamiento de esta aplicación, que permite crear y compartir contenido sexual simulado sin verificar edad ni consentimiento.

Legarreta basó su decisión en los riesgos concretos que representa el entorno digital cuando no existen filtros preventivos, especialmente para niñas y adolescentes, advirtiendo que “el entorno digital no garantiza barreras efectivas de edad ni consentimiento, lo que expone especialmente a niños y adolescentes a formas modernas de violencia simbólica, digital y psicológica”.

La medida regirá hasta tanto se acredite el cese del riesgo de daño.

La causa se inició a partir de la denuncia de un progenitor, sobre una herramienta digital que emplea modelos avanzados de inteligencia artificial para eliminar digitalmente ropa en fotografías y simular imágenes íntimas.

El sitio carece de controles de edad, almacenamiento seguro y transparencia sobre sus desarrolladores, lo que agrava los riesgos de abuso, acoso y difusión no consentida de contenido íntimo.