Una jueza ordenó bloquear una app que crea desnudos con Inteligencia Artificial

El uso de la Inteligencia Artificial (IA) para crear videos falsos con contenido sexual, está en aumento. Sin una legislación clara en Argentina, las victimas, en su mayoría mujeres y adolecentes, enfrentar graves consecuencias sociales y emocionales.

En la San Luis, una jueza generó un precedente de alcance nacional al ordenar desactivar una app que crea desnudos con esta herramienta. La medida cautelar fue a pedido de una fiscal por un grave caso de superposición de imágenes que damnificó a estudiantes de una escuela puntana.

La Fiscal de Género, Diversidad Sexual, Infancias y Adultos Mayores N° 2, Antonella Córdoba, logró que prosperara una medida cautelar para bloquear en todo el país una aplicación que genera imágenes íntimas falsas de adolescentes mediante inteligencia artificial.

La solicitud fue presentada ante la jueza del Juzgado Penal Juvenil de la ciudad de San Luis, Daniela Benenatti, que dispuso que se le dé intervención al Ente Nacional de Telecomunicaciones (ENACOM) para el bloqueo inmediato de acceso al sitio y que, de no ser posible, evalúe e implemente alternativas para lograr el mismo objetivo.

Diversos proyectos de ley buscan cerrar estas brechas legales. Entre ellos, la llamada Ley Belén, que propone penalizar los montajes realizados con inteligencia artificial, y otras iniciativas que plantean sanciones de hasta 6 años de prisión para quienes utilicen deepfakes sin consentimiento.

La Fiscal Córdoba explicó que “el caso surgió a partir de una denuncia presentada por la apoderada de una escuela de la capital puntana, en representación de un grupo de adolescentes cuyos rostros fueron superpuestos, sin su conocimiento ni consentimiento, en cuerpos desnudos que no les pertenecen.”

En la investigación realizada por Córdoba se llegó a “una aplicación de IA avanzada diseñada para desnudar fotos y crear la ilusión de un cuerpo desnudo”, detalla el informe técnico del Departamento de Delitos Complejos del Poder Judicial puntano.

Aunque en su sitio web la plataforma alega que “el procesamiento de menores es imposible” y que no se responsabiliza por las imágenes creadas, la realidad demostró lo contrario: no existen barreras efectivas de verificación de edad ni mecanismos que impidan el uso de imágenes de terceros sin autorización.

“Frente a esta violación flagrante de la privacidad, la dignidad y los derechos”, la fiscal presentó la solicitud de una medida cautelar. La sustentó en un marco legal que incluyó la Ley Olimpia (27.736), que tipifica y sanciona la violencia digital, así como la Ley de Protección Integral de los Derechos de Niñas, Niños y Adolescentes (26.061) y la Ley de Protección Integral para Prevenir, Sancionar y Erradicar la Violencia contra las Mujeres (26.485).

“El entorno digital no garantiza barreras efectivas de edad ni consentimiento lo que expone especialmente a niños y adolescentes a formas modernas de violencia simbólica, digital y psicológica, configurando una situación de alto riesgo que exige medidas cautelares urgentes de protección con el fin de evitar que la persistencia del acceso irrestricto a dicha aplicación constituya un riesgo cierto de repetición del daño, tanto respecto de las víctimas identificadas en autos como de otros potenciales afectados”, advirtió la fiscal.

El vacío legal en Argentina

Actualmente, el Código Penal argentino no cuenta con una figura específica que penalice la creación y difusión de deepfakes de contenido sexual. Algunos fiscales intentan encuadrar estos casos bajo el artículo 128, que sanciona la tenencia, producción y distribución de material de abuso sexual infantil. Sin embargo, este artículo no contempla imágenes generadas por IA, lo que dificulta lograr condenas.

En este contexto, legislaciones como la Ley Olimpia, que aborda la violencia digital contra mujeres, han sido una herramienta útil. Esta normativa permite solicitar la remoción de contenido en plataformas digitales y preservar las evidencias para posibles acciones legales. Sin embargo, la ley solo se aplica a víctimas mujeres, dejando a los varones adolescentes sin una protección específica.