A todos, profesionales y particulares, nos ha sobresaltado la reciente noticia sobre el primer caso masivo de falsos desnudos de menores generados por Inteligencia Artificial (IA) ocurrido en España. Una noticia sin precedentes y a la que hay que enfrentarse sin todavía, argumentos sólidos legales a los que acogerse.

Según se ha podido saber, un grupo de adolescentes decidió aprovechar una aplicación pirata con la que han generado falsas imágenes de menores desnudas. La app, la cual parece haberse distribuido a través de la red Telegram, ha servido para realizar estos montajes teniendo como víctimas decenas de niñas del municipio de Almendralejo y alrededores desde el pasado mes de julio. Las imágenes resultantes de la combinación de IA con las fotografías reales de caras y cuerpos de las pequeñas han sido reiteradamente difundidas por grupos de Whatsapp y han llegado a plataformas sexuales de pago como Onlyfans.

Ampliando información se conoce que el alcance de las acciones de los menores varones ha sido extrema incluyendo la coacción a las niñas (de entre 12 y 17 años) solicitándoles dinero a cambio de la no publicación de los fotomontajes.

Menores (femeninas) víctimas de otros menores (masculinos)

Esta situación es, cuanto menos, sorprendente pero, ante todo, inquietante. En un entorno digital en el que todo va a una velocidad imparable, se hace difícil asumir cambios en el ámbito de la legalidad que den cobijo a las actitudes aparentemente constitutivas de delito. No existe aún legislación para lo concerniente al material generado por Inteligencia Artificial y la acción de difusión por medios digitales está “cogida con pinzas”.

La realidad es que estos días informativos, periódicos y grupos de conversación se centran en un episodio drástico. Las principales víctimas son un grupo de niñas menores que han sido vejadas por la manipulación y difusión de imágenes que incluyen su cuerpo desnudo. De eso no cabe duda. Pero también hay que atender a los niños que han realizado la acción quizás con poco conocimiento (por la edad) de la tecnología y/o sus consecuencias que tienen a su alcance y disposición. 

El espectro al que llegan los efectos y resultados de esta acción es mucho más amplio del que a priori pueda parecer. Reitero que por supuesto, las menores – niñas son las mayores damnificadas pero sin descuidar a sus propias familias, a los niños causantes y por ende, a las familias de estos.  Cuando se trata de menores, las consecuencias son mucho más profundas y dispersas en cuanto al entorno afectado se refiere.

El delito de pornografía infantil: Las posibles penas

El delito más grave que podrían haber cometido es el de pornografía infantil, castigado con penas de hasta 9 años, según versa el artículo 189 del Código Penal, por la utilización de menores de edad con fines pornográficos así como la elaboración de material pornográfico, que puede ser así considerado dado lo realístico de las imágenes difundidas. Al estar afectadas menores de 16 años, si los causantes fuesen adultos, estos podrían ser castigados con pena de prisión de hasta 9 años.

Sin embargo el hecho de ser menores también los “acusados” supone la aplicación de la Ley Orgánica 5/2000, de 12 de enero, reguladora de la responsabilidad penal de los menores, aplicable a las personas mayores de catorce años y menores de dieciocho, por la comisión de hechos tipificados como delitos o faltas en el Código Penal o las leyes penales especiales. Esta norma prevé la imposición de medidas a los menores que pueden ir desde la prohibición de aproximarse o comunicarse con las victimas al internamiento en centros de menores, entre otras, a criterio y con la graduación que decida el Juez de Menores competente.

A este delito se podría sumar el haber incurrido, con el «uso indebido» de los datos personales y sin consentimiento de la imagen de las menores, en el tipo delictivo previsto en el artículo 173 del Código Penal, por el grave menoscabo a la integridad moral de las menores. El autor adulto de tal delito podría ser condenado a la pena de seis meses a dos años de prisión, pero, por ahora, parece que los únicos autores conocidos son menores de edad que podrían “librarse” de entrar a una prisión, aunque posiblemente no puedan eludir un Centro de Menores.

También existe la posibilidad de que los menores varones puedan ser condenados como autores de un delito de descubrimiento y revelación de secretos, pues habrían vulnerado la intimidad de las menores sin su consentimiento apoderándose de fotografías personales. Para la manipulación de estas imágenes se ha utilizado artificios técnicos, como es la aplicación de Inteligencia Artificial y reproducidos a través de WhatsApp, plataformas y redes sociales ampliando el círculo de difusión. Este otro delito que se sumaría, previsto en el art. 197 del Código Penal, prevé para sus autores la pena de prisión de 1 a 4 años y la de multa de 12 a 24 meses, insisto que no aplicables a menores de edad, que quedan a merced del Juez de Menores pertinente.

Bajo mi punto de vista como letrada, no considero viable que la defensa pueda oponer que las fotografías no son reales sino simples montajes. Aun cuando hayan sido generadas por Inteligencia Artificial o aunque lo hubieran sido por Photoshop u otro método, lo que constituye delito es el uso que se hace y su resultado. «Si no conoces a la niña, no sabes que es mentira» han llegado a decir algunos de los padres de las víctimas, dado el realismo de los fotomontajes. Y lo cierto es que, con los avances que proporciona la IA, es bastante sencillo y asequible para todos generar estas imágenes de forma realista lo que agrava aún más el ataque contra la intimidad de estas menores.

Mención aparte merece la posible comisión de un delito de coacciones, previsto en el artículo 172 del Código Penal, realizada por el adolescente que, a través de redes sociales, pidió a una de las menores dinero a cambio de no difundir el fotomontaje que de ella habían preparado. Un adulto podría ser condenado a la pena de 6 meses a 3 años de prisión por este delito según la gravedad de la coacción o los medios empleados.

Los casos de ciberacoso en vertiginoso aumento

En nuestro país, el organismo que regula actualmente el uso de la Inteligencia Artificial, la Agencia Española de Protección de Datos, ya ha abierto una investigación de oficio por el asunto citado y acontecido que sigue generando en tiempo real, nuevas informaciones, así como agravando la situación. Aunque este haya sido el más llamativo, quizá por la gran cantidad de víctimas que parece tener, a fecha de hoy la Agencia ha abierto ya 51 expedientes por ciberacoso en solo un año.

De todos ellos, el 70% está relacionado con contenidos donde hay violencia digital hacia mujeres y niñas. Entre las funciones de la AEPD se encuentra la de requerir a los proveedores de servicios correspondientes la retirada de los contenidos sensibles con inmediatez, además de determinar si procede depurar responsabilidades a través de un procedimiento sancionador. En estos casos, las multas pueden oscilar entre los 5.000 y los 10.000 euros, pero si el infractor es un menor, como en el caso ocurrido en Almendralejo (Badajoz), quienes deben hacer frente a esa multa son sus padres.

Procedimiento y pasos a seguir ante situaciones similares

Como bien han hecho los padres de las decenas de menores afectadas, lo primero es presentar una denuncia por la posible de comisión de delito, con el fin de poner en conocimiento de la autoridades los hechos ocurridos y conseguir el cese de inmediato de la difusión de esas imágenes.

Tras ello vendrá la tramitación de un proceso judicial contra los autores de los hechos, dilucidándose en el mismo la intervención de cada uno de los autores conocidos y la posible comisión de uno o varios tipos delictivos como los señalados aquí. El proceso evolucionará hasta finalizar con la condena de los que, sin género de duda en cumplimiento de la presunción de inocencia, resulten ser responsables de esos delitos, imponiéndoles la pena que les corresponda.

Además, se deberá dilucidar en ese procedimiento si corresponde indemnizar a las víctimas, representadas por sus padres mientras sean menores de edad, por los daños y perjuicios sufridos a consecuencia de los delitos de los que hayan podido ser víctimas. De seguir siendo los autores menores de edad, una vez recaiga sentencia que los pueda condenar al pago de tal indemnización, serán los padres los que deban hacer frente, en representación de sus hijos menores, al pago de tal cantidad a cada una de las víctimas.

Por otro lado, y aunque en este caso parece que la AEPD, probablemente por la gran repercusión pública que ha tenido la situación y la gravedad que representa, ha tomado cartas en el asunto abriendo expediente de oficio, cualquiera que crea ser víctima en el tratamiento de sus datos personales y derechos digitales, puede presentar reclamación ante dicho organismo, máxime si nos encontramos ante menores de edad, en cuyo caso lo harán sus padres, como representantes legales.