Fotos manipuladas de ni?as desnudas en el colegio: ?puede la ley enfrentarse a la inteligencia artificial?

Hay un hecho probado. Diferentes madres de chicas adolescentes de Almendralejo (Badajoz) han presentado en los ¨²ltimos d¨ªas denuncias ante la Polic¨ªa por la manipulaci¨®n y difusi¨®n de im¨¢genes falsas de sus hijas en las que se las presenta desnudas. Se trata de creaciones hiperrealistas realizadas con aplicaciones de inteligencia artificial conocidas como deepfakes, v¨ªdeos o im¨¢genes est¨¢ticas (tambi¨¦n puede ser sonido) donde se sustituye el rostro original por el de cualquier otra persona. Seg¨²n datos de la polic¨ªa del municipio, se han difundido im¨¢genes de alumnas desnudas modificadas por inteligencia artificial en, al menos, cuatro de los cinco centros de Secundaria de la localidad. El caso ya est¨¢ en investigaci¨®n. ?Es esta acci¨®n constitutiva de delito? ?Hay cargos imputables a los autores o distribuidores de esa manipulaci¨®n?

La Polic¨ªa Nacional ha identificado a varios menores como supuestos autores de los montajes y ha tomado declaraci¨®n a siete posibles v¨ªctimas, seg¨²n el delegado del Gobierno en Extremadura, Francisco Mendoza, quien ha explicado que la informaci¨®n se ha trasladado a la Fiscal¨ªa de Menores para que ¡°decida lo que corresponda¡±. El fiscal superior de Extremadura, Francisco Javier Montero, durante su intervenci¨®n en el acto de presentaci¨®n de la memoria de actividad del Ministerio P¨²blico, ha considerado que esa suplantaci¨®n de identidades ¡°atenta, mediante la manipulaci¨®n fotogr¨¢fica¡±, contra ¡°la intimidad y el honor¡±, informa Efe.

Manuel Cancio, catedr¨¢tico de Derecho Penal de la Universidad Aut¨®noma de Madrid, advierte de que en el C¨®digo Penal no est¨¢ tipificado ni contemplado este tipo de actos en los que se usa la inteligencia artificial. Al tratarse de fotograf¨ªas, Cancio alude a un posible uso del art¨ªculo 197.1, que castiga al que, ¡°para descubrir los secretos o vulnerar la intimidad de otro, sin su consentimiento, se apodere de sus papeles, cartas, mensajes de correo electr¨®nico o cualesquiera otros documentos o efectos personales, intercepte sus telecomunicaciones o utilice artificios t¨¦cnicos de escucha, transmisi¨®n, grabaci¨®n o reproducci¨®n del sonido o de la imagen¡±. ¡°El problema es que en este caso de las adolescentes extreme?as, la cara de las fotograf¨ªas es real, pero el desnudo no, ha sido producido por una inteligencia artificial, por lo que el encaje jur¨ªdico de este comportamiento es muy dif¨ªcil¡±, considera. Igualmente, entrar¨ªan el 197.2 y el 197.3, que se refieren a aquellos que accedan a ese material sin consentimiento o lo difundan.

Cancio recuerda que en septiembre de 2022, la Comisi¨®n Europea ya alert¨® de esta problem¨¢tica y public¨® una propuesta de directiva sobre la adaptaci¨®n de las leyes de responsabilidad civil extracontractual a la inteligencia artificial, para introducir nuevas normas espec¨ªficas sobre da?os causados por la IA. ¡°El legislador espa?ol, como es habitual, est¨¢ dormido y no se ha modificado el C¨®digo Penal para introducir estos cambios tecnol¨®gicos que cada vez m¨¢s forman parte del d¨ªa a d¨ªa¡±, lamenta. ¡°Podr¨ªa recurrirse al caj¨®n de sastre de un delito de injurias o contra la integridad moral, que es donde recaen los hechos que no sabemos d¨®nde incluir¡±. Sobre la posibilidad de ir por la v¨ªa civil, Cancio apunta que ¡°a d¨ªa de hoy, ya podr¨ªa dar lugar a indemnizaci¨®n por intromisi¨®n en la intimidad y en el honor de las menores¡±.

El abogado experto en derecho digital Borja Adsuara cree que s¨ª podr¨ªan incluirse estos hechos en el art¨ªculo 197.1, pues hace referencia al uso de ¡°artificios t¨¦cnicos de reproducci¨®n de la imagen¡±, que podr¨ªan abarcar la inteligencia artificial. ¡°Lo peor de este tema es la falta de percepci¨®n de que se est¨¢ cometiendo un delito, primero porque es muy f¨¢cil cometerlo con una simple aplicaci¨®n de IA para el m¨®vil, y segundo porque se ha extendido la pr¨¢ctica del sexting [env¨ªo de material pornogr¨¢fico a trav¨¦s de las tecnolog¨ªas de la informaci¨®n] y mucha gente no tiene claro el l¨ªmite del consentimiento¡±.

La abogada experta en derecho tecnol¨®gico y autora de Datanomics, Paloma Llaneza, descarta los hechos como tenencia y distribuci¨®n de pornograf¨ªa infantil, contemplados en el art¨ªculo 189, 189.1 y 189.2 del C¨®digo Penal. ¡°Lo que se trata de proteger es a los menores objeto de explotaci¨®n para la obtenci¨®n de pornograf¨ªa infantil. Pero aqu¨ª no ha habido abuso de ning¨²n tipo. Ya se discuti¨® al respecto en el pasado sobre los retoques con Photoshop o el manga, donde aparecen menores. Pero estos hechos no est¨¢n amparados por este delito de pornograf¨ªa infantil¡±. Adem¨¢s, se?ala que como las v¨ªctimas ya han manifestado que no son sus cuerpos reales, ya no se podr¨ªa llevar por ese cauce. ¡°No les han sacado una foto en la intimidad, se han creado im¨¢genes de forma autom¨¢tica, por lo que tampoco podr¨ªa aplicarse el 197.1¡å, a?ade.

A diferencia de cualquier otra rama del derecho, indica Llaneza, donde las interpretaciones de la ley se pueden acomodar al paso del tiempo, el derecho penal no permite la ¡°interpretaci¨®n anal¨®gica¡±. ¡°No podemos meter aspectos que no se?ale de forma expl¨ªcita el C¨®digo Penal. Adem¨¢s, a las v¨ªctimas no les han robado fotos en las que aparecen desnudas, ni coaccionado por chat para obtenerlas¡±. Llaneza recuerda c¨®mo el caso de la exconcejal socialista de Los Y¨¦benes (Toledo) Olvido Hormigos, que envi¨® un v¨ªdeo ¨ªntimo a una persona con la que manten¨ªa relaciones y esta lo difundi¨® sin su consentimiento, ya oblig¨® a modificar el C¨®digo Penal para que fuese delito el reenv¨ªo de un material sin consentimiento. ¡°En el caso de las chicas de Extremadura, claro que hay un atentado contra su intimidad, pero el cuerpo no es suyo¡±.

A juicio de Llaneza, en este caso la v¨ªa civil tampoco es una opci¨®n, porque al presentar una demanda, es necesario identificar al autor de los hechos, que en este escenario resulta imposible hasta que no se realice una investigaci¨®n policial.

Otros expertos, como el perito judicial inform¨¢tico Pablo Duchement, s¨ª creen que podr¨ªa encajarse como delito de pornograf¨ªa infantil. El art¨ªculo 189 del C¨®digo Penal, estipula, entre otros puntos, que se considera pornograf¨ªa infantil las im¨¢genes realistas de un menor participando en una conducta sexualmente expl¨ªcita o im¨¢genes realistas de los ¨®rganos sexuales de un menor, con fines principalmente sexuales. ¡°Este segundo punto es el que nos interesa, y si los autores tienen 14 a?os o m¨¢s ya se les puede imputar el delito¡±, se?ala. Duchement hacer referencia a la doctrina judicial de la Fiscal¨ªa General del Estado, en la que se hace constar que estar¨¢ exento del delito el que persiguiera con im¨¢genes de menores desnudos un fin cient¨ªfico o educativo. ¡°No creo que este sea el caso y que la manipulaci¨®n de las fotos de esas chicas tuviese un fin art¨ªstico o educativo¡±, a?ade. Adem¨¢s, se refiere a diferentes sentencias en las que la mera recreaci¨®n de explotaci¨®n sexual infantil, incluso cuando los modelos no son reales, ya son lesivos y constitutivos de delito.

Protocolo contra el acoso escolar

A la espera de la investigaci¨®n policial, las familias afectadas han asegurado a EL PA?S que algunas de las menores se enteraron en los centros educativos de que las im¨¢genes con sus cuerpos desnudos estaban circulando por los m¨®viles de sus compa?eros. Cuando un ni?o reporta que lo est¨¢ pasando mal o el centro tiene una sospecha, est¨¢ obligado a activar el protocolo contra el acoso escolar, definido por las consejer¨ªas de educaci¨®n de las diferentes autonom¨ªas. Para que se considere acoso, se tienen que dar tres circunstancias: la intenci¨®n de hacer da?o (f¨ªsico, verbal o psicol¨®gico), la repetici¨®n en el tiempo de las conductas da?inas, y desequilibrio de poder entre las partes. Ese desequilibrio puede ser num¨¦rico, por ejemplo, cinco contra uno; f¨ªsico, alguien muy corpulento contra alguien m¨¢s peque?o; social, aislar a esa persona del resto, o de edad.

La Consejer¨ªa de Educaci¨®n de Extremadura asegura a este peri¨®dico que, por el momento, no les consta que ning¨²n centro haya activado el protocolo. Tampoco se ha dado orden de hacerlo desde la inspecci¨®n educativa de la autonom¨ªa.

Fuentes del Ministerio de Educaci¨®n se?alan que este departamento est¨¢ en conversaciones con los Estados miembros y la Comisi¨®n Europea para aprobar unas recomendaciones referidas a digitalizaci¨®n en la educaci¨®n¡±. Entre ellas, se anima a los pa¨ªses europeos a reforzar la presencia de la competencia digital entre alumnos y docentes, con el objetivo de que logren hacer un ¡°uso seguro, sostenible, responsable y saludable¡± de las tecnolog¨ªas. El expediente est¨¢ en fase de revisi¨®n y se debatir¨¢ en el consejo de ministros de educaci¨®n de la UE que se celebrar¨¢ en noviembre en Bruselas.