La nueva ley de protecci¨®n de menores incluir¨¢ revisiones en el pediatra para detectar adicciones a la tecnolog¨ªa y una orden de alejamiento virtual

Un protocolo espec¨ªfico para detectar usos problem¨¢ticos de la tecnolog¨ªa dentro de las revisiones peri¨®dicas que realizan los pediatras; una orden de alejamiento virtual ¡°de redes sociales, foros, plataformas de comunicaci¨®n o cualquier otro lugar en el espacio virtual¡± para quienes cometan delitos en esos espacios, y nuevas penas para quienes creen o difundan im¨¢genes o voces de alguien falsas con herramientas de inteligencia artificial ¡°simulando situaciones de contenido sexual o gravemente vejatorias¡± sin el consentimiento de la persona afectada. Esas son tres de las cuestiones que incorpo...

Un protocolo espec¨ªfico para detectar usos problem¨¢ticos de la tecnolog¨ªa dentro de las revisiones peri¨®dicas que realizan los pediatras; una orden de alejamiento virtual ¡°de redes sociales, foros, plataformas de comunicaci¨®n o cualquier otro lugar en el espacio virtual¡± para quienes cometan delitos en esos espacios, y nuevas penas para quienes creen o difundan im¨¢genes o voces de alguien falsas con herramientas de inteligencia artificial ¡°simulando situaciones de contenido sexual o gravemente vejatorias¡± sin el consentimiento de la persona afectada. Esas son tres de las cuestiones que incorpora el borrador del anteproyecto de ley org¨¢nica para la protecci¨®n de los menores en los entornos digitales al que ha tenido acceso EL PA?S y sobre el que se est¨¢ trabajando. La norma, con cuatro ministerios implicados ¡ªPresidencia, Justicia y Relaciones con las Cortes, Juventud e Infancia, Transformaci¨®n Digital y Derechos Sociales, Consumo y Agenda 2030¡ª, ir¨¢ previsiblemente este martes a Consejo de Ministros.

El documento, de 28 p¨¢ginas y a¨²n en proceso de redacci¨®n, sobre todo en aquellas cuestiones con competencias cedidas a las comunidades aut¨®nomas ¡ªcomo todas las referidas a Sanidad y Educaci¨®n¡ª, expone que el acceso de los menores a contenido inapropiado puede producir ¡°m¨²ltiples consecuencias¡±, y describe siete: da?os psicol¨®gicos y emocionales (¡°el menor posee una madurez y una autoestima en desarrollo, por lo que es m¨¢s vulnerable a nivel emocional si tropieza con informaci¨®n que no es capaz de asumir¡±, como por ejemplo contenido pornogr¨¢fico o violento); desinformaci¨®n, manipulaci¨®n y construcci¨®n de falsas creencias; conductas peligrosas o socialmente inapropiadas; da?os para la salud f¨ªsica; inclusi¨®n en grupos y colectivos da?inos; adicciones, y gastos econ¨®micos. Por ello, el objetivo de la ley es ¡°garantizar el respeto¡± de los menores en el entorno digital, ¡°especialmente los derechos a la intimidad, al honor y a la propia imagen, al secreto de las comunicaciones y a la protecci¨®n de los datos personales y el acceso a contenidos adecuados a la edad¡±.

Medidas en el ¨¢mbito sanitario

El borrador contempla cuestiones en el ¨¢mbito sanitario que a¨²n est¨¢n debati¨¦ndose, ya que son las autonom¨ªas quienes ostentan las competencias en esta materia. El texto al que ha tenido acceso este diario incluye el programa de revisi¨®n del ni?o sano ¡ªque incluye visitas desde el nacimiento hasta los 14 a?os y en el que participan matronas, enfermeras y pediatras de los equipos de atenci¨®n primaria¡ª y que ¡°se utilizar¨¢ para identificar usos problem¨¢ticos¡± de las tecnolog¨ªas ¡°de forma simult¨¢nea a la detecci¨®n que se realiza de otras conductas perjudiciales como el aislamiento, la falta de juego o la carencia de estimulaci¨®n del lenguaje¡±, entre otras.

¡°Se pondr¨¢ especial atenci¨®n en identificar las situaciones en que ni?os y adolescentes recurran de forma prioritaria al entorno digital para entablar relaciones de pares, comprobando si tienen a su disposici¨®n recursos de ocio saludable, espacios de encuentro y oferta l¨²dica gratuita¡±, se?ala el documento.

Adem¨¢s, el texto establece que el Gobierno, en colaboraci¨®n con las consejer¨ªas de sanidad a trav¨¦s del Consejo Interterritorial del Sistema Nacional de Salud, ¡°promover¨¢ el desarrollo de estudios de uso por franjas de edad, con el fin de elaborar gu¨ªas de recomendaci¨®n de exposici¨®n progresiva, limitada y acompa?ada¡±.

Contempla tambi¨¦n que las administraciones auton¨®micas promover¨¢n la creaci¨®n de procedimientos de atenci¨®n sanitaria espec¨ªficos para menores con conductas adictivas sin sustancia ¡ªconsumo abusivo de dispositivos digitales¡ª en la red especializada de atenci¨®n a la salud mental, tanto en las Unidades de Atenci¨®n a la Conducta Adictiva, como en los centros de salud mental infantojuveniles. Y la creaci¨®n de centros de atenci¨®n a las conductas adictivas de menores de edad, que incluir¨¢n la especial consideraci¨®n a las conductas adictivas sin sustancia. En la actualidad, este tipo de centros ya est¨¢n funcionando en algunas comunidades como es el caso de Madrid, que fue pionera en el lanzamiento de este servicio p¨²blico en 2018.

Cambios en el C¨®digo Penal

Entre los riesgos y perjuicios asociados con un uso inadecuado de medios y dispositivos digitales, se?ala el borrador, ¡°cabe destacar la aparici¨®n de problemas de salud, tanto f¨ªsicos, psicol¨®gicos como emocionales, dificultades de interacci¨®n social o problemas en el desarrollo cognitivo¡±. Adem¨¢s, existen otros ¡°relacionados con el uso de datos y privacidad de las personas menores de edad, la progresiva insensibilizaci¨®n ante actos de violencia, el ciberacoso y el aumento de casos de explotaci¨®n y abusos de menores¡±, contin¨²a el texto. Por esos y otros motivos, se?ala que es ¡°necesario¡± introducir algunos cambios en el C¨®digo Penal ¡°que permitan ejercer una protecci¨®n eficaz frente a los nuevos delitos tecnol¨®gicos¡±.

Orden de alejamiento virtual. El primero de esos cambios es la incorporaci¨®n de ¡°la pena de alejamiento de los entornos virtuales¡±, para lo que se modifican los art¨ªculos 33, 39, 40, 45, 48, 56, 70 y 83 del C¨®digo Penal ¡°para incorporar la pena de prohibici¨®n de acceso o de comunicaci¨®n a trav¨¦s de redes sociales, foros, plataformas de comunicaci¨®n o cualquier otro lugar en el espacio virtual, cuando el delito se comete en su seno¡±. Ante ¡°el gran incremento de la delincuencia virtual, las redes sociales son un lugar donde frecuentemente se cometen delitos o donde se prolonga la ejecuci¨®n de hechos iniciados o ejecutados parcialmente¡± y esta nueva pena, seg¨²n el borrador, ¡°da una respuesta eficaz a la creciente criminalidad inform¨¢tica, al evitar la reiteraci¨®n de la conducta punible en los espacios virtuales y mejorar la protecci¨®n de las v¨ªctimas impidiendo su victimizaci¨®n secundaria¡±.

Las ultrafalsificaciones. Conocidas en ingl¨¦s como deepfakes, son im¨¢genes o voces manipuladas tecnol¨®gicamente y extremadamente realistas. Entrar¨¢n tambi¨¦n en el C¨®digo Penal a trav¨¦s de un nuevo art¨ªculo, el 173 bis, que se incorpora de esta forma: ¡°Se impondr¨¢ la pena de prisi¨®n de uno a dos a?os a quienes, sin autorizaci¨®n de la persona afectada y con ¨¢nimo de menoscabar su integridad moral, difundan, exhiban o cedan su imagen corporal o audio de voz generada, modificada o recreada mediante sistemas automatizados, software, algoritmos, inteligencia artificial o cualquier otra tecnolog¨ªa, de modo que parezca real, simulando situaciones de contenido sexual o gravemente vejatorias¡±. Y, dice, ¡°se aplicar¨¢ la pena en su mitad superior si dicho material ultrafalsificado se difunde a trav¨¦s de un medio de comunicaci¨®n social, por medio de internet o mediante el uso de tecnolog¨ªas, de modo que aquel se hiciera accesible a un elevado n¨²mero de personas en el espacio virtual¡±.

El documento explica que ¡°adem¨¢s de que las ultrafalsificaciones generalmente se difunden en el ciberespacio, con la potencialidad de permanencia que ello implica¡±, esto genera un da?o m¨¢s profundo que otros ataques en la red ¡°por la enorme dificultad de distinguir entre el contenido falso y el real debido a la precisi¨®n de las nuevas tecnolog¨ªas y por el mayor grado de veracidad que mantenemos respecto de materiales audiovisuales sobre materiales escritos¡±.

Y ahonda en las razones por las que se ha optado por sancionar los contenidos especialmente vejatorios y las ultrafalsificaciones sexuales ¡ª¡±las llamadas deepfakes pornogr¨¢ficas¡±, matiza el borrador¡ª: por ¡°la afectaci¨®n a la autoestima y la heteroestima¡± ¡ªla valoraci¨®n externa de las personas importantes en la vida de una persona¡ª, y tambi¨¦n por la ¡°cosificaci¨®n e instrumentalizaci¨®n que se produce sobre el sujeto pasivo, generalmente mujeres y ni?as, ni?os y j¨®venes que son tratados como objetos de consumo¡±.

El uso de identidades falsas. Se contempla el agravamiento en los delitos recogidos en los art¨ªculos 181, 182, 183, 185, 186, 188 y 189, de forma que cuando el infractor, para ¡°facilitar la ejecuci¨®n de la conducta¡± delictiva, hubiera utilizado una identidad falsa, ficticia o imaginaria, o se hubiera atribuido una edad, sexo, g¨¦nero u otras condiciones personales diferentes de las propias, la pena se impondr¨¢ en su mitad superior.

El da?o de un like en una red social. El documento tambi¨¦n prev¨¦ tipos agravados en los art¨ªculos 197.3 y 199.3 para que, ¡°en los casos de revelaci¨®n de secretos o de difusi¨®n, exhibici¨®n o cesi¨®n de material ¨ªntimo, se incremente la pena hasta la mitad superior si el hecho genera un mayor impacto por su difusi¨®n a trav¨¦s de un medio de comunicaci¨®n social, por medio de internet o mediante el uso de tecnolog¨ªas, de modo que aquel se hiciera accesible a un elevado n¨²mero de personas en el espacio virtual¡±.

Medidas en los centros educativos

El anteproyecto contempla que las administraciones p¨²blicas ¡°competentes¡± fomentar¨¢n en los centros educativos, independientemente de su titularidad, ¡°el desarrollo de actividades encaminadas a la educaci¨®n en ciudadan¨ªa digital y alfabetizaci¨®n medi¨¢tica con el fin de garantizar la plena inserci¨®n del alumnado en la sociedad digital y el aprendizaje de un uso de los medios digitales seguro y respetuoso que favorezca el ejercicio efectivo de sus derechos en el entorno digital¡±.

Para ello, se definir¨¢n ¡°objetivos claros y diferenciados del desarrollo de la competencia digital¡± para cada etapa educativa. Para la detecci¨®n de este tipo de conductas y situaciones problem¨¢ticas se llevar¨¢n a cabo peri¨®dicamente planes de formaci¨®n espec¨ªfica y actualizada dirigida al personal de los centros, especialmente a orientadores, educadores y equipos de psicolog¨ªa y mediaci¨®n, expone el borrador.

Una nueva estrategia nacional

El Gobierno, en colaboraci¨®n con las comunidades aut¨®nomas, las ciudades de Ceuta y Melilla, y las entidades locales, elaborar¨¢, con car¨¢cter plurianual, una estrategia nacional en la que se establecer¨¢n ¡°actividades encaminadas a la educaci¨®n en ciudadan¨ªa digital y alfabetizaci¨®n medi¨¢tica¡±, o ¡°la difusi¨®n de informaci¨®n a las madres, padres o tutores legales, equipo docente y sanitario, sobre la utilizaci¨®n adecuada de los dispositivos digitales y su incidencia en el desarrollo de los ni?os¡±, con problem¨¢ticas como el ciberacoso o las ciberagresiones, as¨ª como las medidas de control parental. Este plan nacional tambi¨¦n promover¨¢ nuevas investigaciones neurobiol¨®gicas, ¡°especialmente en relaci¨®n con la infancia y adolescencia y los efectos de la tecnolog¨ªa en el desarrollo cognitivo¡±, as¨ª como investigaci¨®n sobre el consumo de la pornograf¨ªa y su impacto en los menores. De forma bianual, se publicar¨¢ un informe de evaluaci¨®n acerca del grado de cumplimiento y eficacia.

Verificaci¨®n de la edad

Sobre los mecanismos para la verificaci¨®n de la edad, el anteproyecto establece que el Ministerio para la Transformaci¨®n Digital y de la Funci¨®n P¨²blica elaborar¨¢ ¡°gu¨ªas t¨¦cnicas que faciliten el desarrollo de herramientas¡± por parte de los proveedores de contenidos en internet. No se concreta ning¨²n otro aspecto. El pasado diciembre, la Agencia Espa?ola de Protecci¨®n de Datos (AEPD) anunci¨® que, junto a la F¨¢brica Nacional de Moneda y Timbre, est¨¢n trabajando en el dise?o de una nueva herramienta ¡°efectiva¡± de verificaci¨®n de edad para el bloqueo del acceso a contenidos inapropiados por parte de menores, que estar¨ªa lista en el verano de 2024.

Los sistemas de verificaci¨®n de edad que emplean actualmente las plataformas presentes en internet son muy laxos y en muchos de los casos se basan en espacios que el usuario rellena al registrarse o, en el caso de las redes sociales, al abrirse una cuenta, en los que solo tienen que marcar una casilla en la que afirma superar una determinada edad (en el caso de TikTok, la edad m¨ªnima para registrarse son 13 a?os, 16 en el de Whatsapp), sin ning¨²n tipo de mecanismo que corrobore la autenticidad de esa informaci¨®n.

En uno de los apartados del documento, se mencionan las ¡°obligaciones de los fabricantes de dispositivos digitales¡±, una cuesti¨®n que est¨¢ pendiente de desarrollar. Seg¨²n fuentes del Gobierno, una posibilidad ser¨ªa obligar a los fabricantes de dispositivos electr¨®nicos ¡ªm¨®viles, tabletas, ordenadores y televisores inteligentes¡ª a incorporar por defecto un sistema de control parental.