Fotos manipuladas de ni?as desnudas en el colegio: ?puede la ley enfrentarse a la inteligencia artificial?

Hay un hecho probado. Diferentes madres de chicas adolescentes de Almendralejo (Badajoz) han presentado en los ¨²ltimos d¨ªas denuncias ante la Polic¨ªa por la manipulaci¨®n y difusi¨®n de im¨¢genes falsas de sus hijas en las que se las presenta desnudas. Se trata de creaciones hiperrealistas realizadas con aplicaciones de inteligencia artificial conocidas como ...

Hay un hecho probado. Diferentes madres de chicas adolescentes de Almendralejo (Badajoz) han presentado en los ¨²ltimos d¨ªas denuncias ante la Polic¨ªa por la manipulaci¨®n y difusi¨®n de im¨¢genes falsas de sus hijas en las que se las presenta desnudas. Se trata de creaciones hiperrealistas realizadas con aplicaciones de inteligencia artificial conocidas como deepfakes, v¨ªdeos o im¨¢genes est¨¢ticas (tambi¨¦n puede ser sonido) donde se sustituye el rostro original por el de cualquier otra persona. Seg¨²n datos de la polic¨ªa del municipio, se han difundido im¨¢genes de alumnas desnudas modificadas por inteligencia artificial en, al menos, cuatro de los cinco centros de Secundaria de la localidad. El caso ya est¨¢ en investigaci¨®n. ?Es esta acci¨®n constitutiva de delito? ?Hay cargos imputables a los autores o distribuidores de esa manipulaci¨®n?

La Polic¨ªa Nacional ha identificado a varios menores como supuestos autores de los montajes y ha tomado declaraci¨®n a siete posibles v¨ªctimas, seg¨²n el delegado del Gobierno en Extremadura, Francisco Mendoza, quien ha explicado que la informaci¨®n se ha trasladado a la Fiscal¨ªa de Menores para que ¡°decida lo que corresponda¡±. El fiscal superior de Extremadura, Francisco Javier Montero, durante su intervenci¨®n en el acto de presentaci¨®n de la memoria de actividad del Ministerio P¨²blico, ha considerado que esa suplantaci¨®n de identidades ¡°atenta, mediante la manipulaci¨®n fotogr¨¢fica¡±, contra ¡°la intimidad y el honor¡±, informa Efe.

Manuel Cancio, catedr¨¢tico de Derecho Penal de la Universidad Aut¨®noma de Madrid, advierte de que en el C¨®digo Penal no est¨¢ tipificado ni contemplado este tipo de actos en los que se usa la inteligencia artificial. Al tratarse de fotograf¨ªas, Cancio alude a un posible uso del art¨ªculo 197.1, que castiga al que, ¡°para descubrir los secretos o vulnerar la intimidad de otro, sin su consentimiento, se apodere de sus papeles, cartas, mensajes de correo electr¨®nico o cualesquiera otros documentos o efectos personales, intercepte sus telecomunicaciones o utilice artificios t¨¦cnicos de escucha, transmisi¨®n, grabaci¨®n o reproducci¨®n del sonido o de la imagen¡±. ¡°El problema es que en este caso de las adolescentes extreme?as, la cara de las fotograf¨ªas es real, pero el desnudo no, ha sido producido por una inteligencia artificial, por lo que el encaje jur¨ªdico de este comportamiento es muy dif¨ªcil¡±, considera. Igualmente, entrar¨ªan el 197.2 y el 197.3, que se refieren a aquellos que accedan a ese material sin consentimiento o lo difundan.

Cancio recuerda que en septiembre de 2022, la Comisi¨®n Europea ya alert¨® de esta problem¨¢tica y public¨® una propuesta de directiva sobre la adaptaci¨®n de las leyes de responsabilidad civil extracontractual a la inteligencia artificial, para introducir nuevas normas espec¨ªficas sobre da?os causados por la IA. ¡°El legislador espa?ol, como es habitual, est¨¢ dormido y no se ha modificado el C¨®digo Penal para introducir estos cambios tecnol¨®gicos que cada vez m¨¢s forman parte del d¨ªa a d¨ªa¡±, lamenta. ¡°Podr¨ªa recurrirse al caj¨®n de sastre de un delito de injurias o contra la integridad moral, que es donde recaen los hechos que no sabemos d¨®nde incluir¡±. Sobre la posibilidad de ir por la v¨ªa civil, Cancio apunta que ¡°a d¨ªa de hoy, ya podr¨ªa dar lugar a indemnizaci¨®n por intromisi¨®n en la intimidad y en el honor de las menores¡±.

El abogado experto en derecho digital Borja Adsuara cree que s¨ª podr¨ªan incluirse estos hechos en el art¨ªculo 197.1, pues hace referencia al uso de ¡°artificios t¨¦cnicos de reproducci¨®n de la imagen¡±, que podr¨ªan abarcar la inteligencia artificial. ¡°Lo peor de este tema es la falta de percepci¨®n de que se est¨¢ cometiendo un delito, primero porque es muy f¨¢cil cometerlo con una simple aplicaci¨®n de IA para el m¨®vil, y segundo porque se ha extendido la pr¨¢ctica del sexting [env¨ªo de material pornogr¨¢fico a trav¨¦s de las tecnolog¨ªas de la informaci¨®n] y mucha gente no tiene claro el l¨ªmite del consentimiento¡±.

La abogada experta en derecho tecnol¨®gico y autora de Datanomics, Paloma Llaneza, descarta los hechos como tenencia y distribuci¨®n de pornograf¨ªa infantil, contemplados en el art¨ªculo 189, 189.1 y 189.2 del C¨®digo Penal. ¡°Lo que se trata de proteger es a los menores objeto de explotaci¨®n para la obtenci¨®n de pornograf¨ªa infantil. Pero aqu¨ª no ha habido abuso de ning¨²n tipo. Ya se discuti¨® al respecto en el pasado sobre los retoques con Photoshop o el manga, donde aparecen menores. Pero estos hechos no est¨¢n amparados por este delito de pornograf¨ªa infantil¡±. Adem¨¢s, se?ala que como las v¨ªctimas ya han manifestado que no son sus cuerpos reales, ya no se podr¨ªa llevar por ese cauce. ¡°No les han sacado una foto en la intimidad, se han creado im¨¢genes de forma autom¨¢tica, por lo que tampoco podr¨ªa aplicarse el 197.1¡å, a?ade.

A diferencia de cualquier otra rama del derecho, indica Llaneza, donde las interpretaciones de la ley se pueden acomodar al paso del tiempo, el derecho penal no permite la ¡°interpretaci¨®n anal¨®gica¡±. ¡°No podemos meter aspectos que no se?ale de forma expl¨ªcita el C¨®digo Penal. Adem¨¢s, a las v¨ªctimas no les han robado fotos en las que aparecen desnudas, ni coaccionado por chat para obtenerlas¡±. Llaneza recuerda c¨®mo el caso de la exconcejal socialista de Los Y¨¦benes (Toledo) Olvido Hormigos, que envi¨® un v¨ªdeo ¨ªntimo a una persona con la que manten¨ªa relaciones y esta lo difundi¨® sin su consentimiento, ya oblig¨® a modificar el C¨®digo Penal para que fuese delito el reenv¨ªo de un material sin consentimiento. ¡°En el caso de las chicas de Extremadura, claro que hay un atentado contra su intimidad, pero el cuerpo no es suyo¡±.

A juicio de Llaneza, en este caso la v¨ªa civil tampoco es una opci¨®n, porque al presentar una demanda, es necesario identificar al autor de los hechos, que en este escenario resulta imposible hasta que no se realice una investigaci¨®n policial.

Otros expertos, como el perito judicial inform¨¢tico Pablo Duchement, s¨ª creen que podr¨ªa encajarse como delito de pornograf¨ªa infantil. El art¨ªculo 189 del C¨®digo Penal, estipula, entre otros puntos, que se considera pornograf¨ªa infantil las im¨¢genes realistas de un menor participando en una conducta sexualmente expl¨ªcita o im¨¢genes realistas de los ¨®rganos sexuales de un menor, con fines principalmente sexuales. ¡°Este segundo punto es el que nos interesa, y si los autores tienen 14 a?os o m¨¢s ya se les puede imputar el delito¡±, se?ala. Duchement hacer referencia a la doctrina judicial de la Fiscal¨ªa General del Estado, en la que se hace constar que estar¨¢ exento del delito el que persiguiera con im¨¢genes de menores desnudos un fin cient¨ªfico o educativo. ¡°No creo que este sea el caso y que la manipulaci¨®n de las fotos de esas chicas tuviese un fin art¨ªstico o educativo¡±, a?ade. Adem¨¢s, se refiere a diferentes sentencias en las que la mera recreaci¨®n de explotaci¨®n sexual infantil, incluso cuando los modelos no son reales, ya son lesivos y constitutivos de delito.

Protocolo contra el acoso escolar

A la espera de la investigaci¨®n policial, las familias afectadas han asegurado a EL PA?S que algunas de las menores se enteraron en los centros educativos de que las im¨¢genes con sus cuerpos desnudos estaban circulando por los m¨®viles de sus compa?eros. Cuando un ni?o reporta que lo est¨¢ pasando mal o el centro tiene una sospecha, est¨¢ obligado a activar el protocolo contra el acoso escolar, definido por las consejer¨ªas de educaci¨®n de las diferentes autonom¨ªas. Para que se considere acoso, se tienen que dar tres circunstancias: la intenci¨®n de hacer da?o (f¨ªsico, verbal o psicol¨®gico), la repetici¨®n en el tiempo de las conductas da?inas, y desequilibrio de poder entre las partes. Ese desequilibrio puede ser num¨¦rico, por ejemplo, cinco contra uno; f¨ªsico, alguien muy corpulento contra alguien m¨¢s peque?o; social, aislar a esa persona del resto, o de edad.

La Consejer¨ªa de Educaci¨®n de Extremadura asegura a este peri¨®dico que, por el momento, no les consta que ning¨²n centro haya activado el protocolo. Tampoco se ha dado orden de hacerlo desde la inspecci¨®n educativa de la autonom¨ªa.

Fuentes del Ministerio de Educaci¨®n se?alan que este departamento est¨¢ en conversaciones con los Estados miembros y la Comisi¨®n Europea para aprobar unas recomendaciones referidas a digitalizaci¨®n en la educaci¨®n¡±. Entre ellas, se anima a los pa¨ªses europeos a reforzar la presencia de la competencia digital entre alumnos y docentes, con el objetivo de que logren hacer un ¡°uso seguro, sostenible, responsable y saludable¡± de las tecnolog¨ªas. El expediente est¨¢ en fase de revisi¨®n y se debatir¨¢ en el consejo de ministros de educaci¨®n de la UE que se celebrar¨¢ en noviembre en Bruselas.