Un estudio se?ala los peligros que supone la IA para la salud mental de ni?os y adolescentes

La sociedad puede volver a caer con la inteligencia artificial (IA) en el error que se cometi¨® con las redes sociales y con internet en general, seg¨²n advierte hoy The Lancet: cuando comiencen a estudiarse de forma cient¨ªfica sus efectos, principalmente en la salud mental de los menores, y a actuar en funci¨®n de las evidencias, los j¨®venes ya habr¨¢n adoptado la nueva tecnolog¨ªa. ¡°Si no aprendemos de las experiencias pasadas, es posible que nos encontremos en una situaci¨®n similar dentro de diez a?os (¡­), absorbidos por otro ciclo de p¨¢nico medi¨¢tico y sin lograr que la IA sea segura y beneficiosa para los ni?os y adolescentes¡±, advierte Karen L Mansfield, psic¨®loga investigadora de la Universidad de Oxford en la publicaci¨®n cient¨ªfica, la misma que desentra?a, tambi¨¦n hoy, uno de esos riesgos ya asentados: uno de cada 12 ni?os es v¨ªctima de abusos o explotaci¨®n sexual cada a?o en el mundo.

¡°En internet puedes encontrar todo lo malo que puedas imaginar, el tr¨¢fico de cualquier tipo de cosas. Ya exist¨ªa antes de internet, pero esta ha sido una plataforma de impulso y difusi¨®n global¡±, explica Jorge B., conocido en la red como @NoobInTheNet, quien comenz¨® a adentrarse con tan solo 12 a?os en las entra?as de la web. Gracias a la supervisi¨®n de sus padres y a la gu¨ªa inicial de la empresa de ciberseguridad Kaspersky, pudo eludir los caminos m¨¢s oscuros. Ahora tiene 21 a?os y trabaja en el ¨¢rea inform¨¢tica de una multinacional aseguradora.

Y lo m¨¢s grave es que esas puertas al da?o para ni?os y adolescentes no es inaccesible, sino todo lo contrario, seg¨²n explica Jorge B. ¡°Lo peor que te puedes encontrar en internet no est¨¢ en una red profunda dif¨ªcil de encontrar. La mejor forma de esconder algo es dejarlo a la vista de todo el mundo. Lo vas a encontrar en la superficie en el lugar y el momento m¨¢s inadecuado¡±, comenta en relaci¨®n con la infancia y la juventud, cuando, seg¨²n sus palabras, ¡°se carece de una mochila con algo de experiencia y cierta madurez tecnol¨®gica¡±.

Lo peor que te puedes encontrar en internet no est¨¢ en una red profunda dif¨ªcil de encontrar. La mejor forma de esconder algo es dejarlo a la vista de todo el mundo

Jorge B., @NoobInTheNet

El joven especialista destaca entre los peligros m¨¢s habituales de la IA la suplantaci¨®n de identidad mediante contenidos falsos, una pr¨¢ctica con ni?as y j¨®venes como diana prevalente. La investigaci¨®n de Mansfield se?ala m¨¢s ejemplos, en especial, los que tienen una incidencia directa con la salud mental. En este sentido, identifica como potencialmente da?inas ¡°las funciones similares a las humanas¡±, como los agentes de IA, o ¡°producir im¨¢genes y contenidos de v¨ªdeo lo suficientemente convincentes como para ser indistinguibles del contenido aut¨¦ntico [deepfakes y la desinformaci¨®n], lo que podr¨ªa influir en las emociones y el comportamiento de los ni?os¡±. La psic¨®loga se?ala tambi¨¦n ¡°los sistemas de recomendaci¨®n de contenido y herramientas de diagn¨®stico en l¨ªnea para la depresi¨®n, la ansiedad o los trastornos alimentarios, que se utilizan cada vez m¨¢s para el autodiagn¨®stico¡±.

¡°Con una IA similar a la humana que mejora o modera las interacciones en l¨ªnea, la gama de beneficios y da?os potenciales para los ni?os y adolescentes es m¨¢s diversa de lo que nunca han sido las redes sociales y los juegos en l¨ªnea por s¨ª solos¡±, advierte Mansfield.

A una conclusi¨®n similar llega Marc Rivero, Lead Security Researcher de Kaspersky y ajeno al estudio: ¡°La inteligencia artificial est¨¢ transformando la experiencia digital de ni?os y adolescentes, pero tambi¨¦n puede tener un impacto negativo en su salud mental y emocional. Al personalizar los contenidos que ven y sugerir interacciones, la IA puede exponerlos a materiales inadecuados o grupos online que promuevan actividades ilegales. Estas influencias pueden aumentar la ansiedad, el aislamiento o incluso llevarlos a comportamientos de riesgo en el entorno digital. Por ello, es clave proteger a los menores mediante la educaci¨®n digital temprana, el uso de herramientas de supervisi¨®n adecuadas, como controles parentales, y el establecimiento de un di¨¢logo abierto con los ni?os para ense?arles a navegar de forma segura y responsable en el mundo digital¡±.

Al personalizar los contenidos que ven y sugerir interacciones, la IA puede exponer a ni?os y adolescentes a materiales inadecuados o grupos online que promuevan actividades ilegales

Marc Rivero, Lead Security Researcher de Kaspersky

La advertencia de Rivero y de los investigadores de Oxford es especialmente relevante porque, seg¨²n el informe de Kaspersky Estar en l¨ªnea: ni?os y padres en Internet, ¡°la mayor¨ªa de los ni?os tiene acceso a la tecnolog¨ªa desde una edad temprana: casi la mitad de los menores espa?oles (47%) tiene su primer contacto con un dispositivo conectado a internet antes de cumplir los 7 a?os, el 24,5% de los padres y madres espa?oles nunca habla con sus hijos sobre los peligros del entorno digital y un 75% reconoce que su hijo no ten¨ªa las nociones suficientes para hacer un uso seguro de la red¡±.

Todos los especialistas consultados coinciden en tres claves: formaci¨®n, informaci¨®n e investigaci¨®n para que el acceso a los recursos de la IA se haga con las mayores defensas posibles. Sin estas, las regulaciones posteriores o las prohibiciones de uso de la tecnolog¨ªa son ineficaces.

Abusos de menores

As¨ª lo ha demostrado una de las peores lacras de la red, donde las normas y l¨ªmites no han impedido que uno de cada 12 ni?os en el mundo sufra explotaci¨®n o abuso sexual en el mundo durante un a?o. Es la conclusi¨®n de una investigaci¨®n encabezada por Deborah Fry, profesora de Investigaci¨®n sobre la Protecci¨®n de la Infancia en la Universidad de Edimburgo, que tambi¨¦n publica hoy The Lancet.

Al igual que el estudio de Oxford, este trabajo tambi¨¦n se?ala el peligro de la irrupci¨®n de la IA. ¡°Las tecnolog¨ªas emergentes basadas en avances tanto en hardware [equipos] como en software [programas] est¨¢n utilizando d¨¦cadas de investigaci¨®n en IA. Las formas en que los j¨®venes interact¨²an con ella cambian constantemente y muchos expertos predicen una IA similar a la humana en esta d¨¦cada¡±, advierte Fry en la investigaci¨®n.

El equipo de la especialista en protecci¨®n de la infancia se?ala la limitaci¨®n de las investigaciones basadas en tiempos de uso de las pantallas o en las redes sociales. Tambi¨¦n recela de las medidas vinculadas con estos dos aspectos: ¡°Los l¨ªmites de tiempo [de navegaci¨®n] y de edad [para acceder a aplicaciones] alejan la responsabilidad de la necesidad de regular el contenido da?ino, poniendo la responsabilidad en cambio en los padres y tutores o en la integraci¨®n masiva de tecnolog¨ªas de estimaci¨®n de edad no probadas, que se ha considerado que presentan riesgos para la privacidad y la seguridad¡±.

Los investigadores se?alan tambi¨¦n la falta de datos uniformes y homog¨¦neos para abordar un problema global. De hecho, ni siquiera hay unidad de criterio en la consideraci¨®n de abusos y delitos sexuales a trav¨¦s de internet.