?Y si est¨¢n usando fotos de su hijo para entrenar una inteligencia artificial?

La mitad de la humanidad recibi¨® el pasado 22 de mayo un email que no pas¨® desapercibido. Facebook, que tiene m¨¢s de 3.000 millones de usuarios activos mensuales, e Instagram, que atesora otros 2.000 (aunque probablemente parte de ellos tengan tambi¨¦n Facebook), informaron a sus usuarios de que sus datos ser¨ªan usados para entrenar los modelos de inteligencia artificial (IA) en los que trabaja Meta, la empresa matriz de estas redes sociales.

Meta habilit¨® una forma para que quienes quisieran pudiesen ejercer su derecho a no participar en ese juego. Sin embargo, el proceso era farragoso y, en ocasiones, no daba resultado. La autoridad de protecci¨®n de datos de Irlanda, pa¨ªs en el que tiene su sede europea, pidi¨® a la compa?¨ªa fundada por Mark Zuckerberg que congelase su iniciativa. Finalmente, Meta cedi¨® y lo paraliz¨® en Europa el 14 de junio.

Cuatro d¨ªas antes, la ONG Humans Rights Watch (HRW) public¨® una investigaci¨®n en la que revelaba que se estaban usando fotograf¨ªas de menores sacadas de internet sin consentimiento alguno para entrenar ¡°poderosas herramientas de IA¡±. El repositorio de im¨¢genes LAION-5B, al que recurren varios desarrolladores para alimentar sus bases de datos, ¡°contiene enlaces a fotos identificables de ni?os brasile?os¡±, aseguraba la ONG. ¡°Los nombres de algunos de ellos figuran en el pie de foto o en la URL donde est¨¢ almacenada la imagen. En muchos casos, sus identidades son f¨¢cilmente rastreables, incluida la informaci¨®n sobre cu¨¢ndo y d¨®nde estaba el ni?o en el momento en que se tom¨® la foto¡±, concluye HRW.

La organizaci¨®n detect¨® al menos 170 fotos de menores brasile?os introducidas en la base de datos sin permiso. Tras el aviso de HRW, LAION-5B reconoci¨® que ten¨ªan esas im¨¢genes y procedi¨® a retirarlas de su repositorio. ¡°Los ni?os no deben vivir con el temor de que les roben sus fotos y las utilicen en su contra¡±, dijo Hye Jung Han, investigadora de HRW especializada en infancia y tecnolog¨ªa. Poco despu¨¦s, Hye encontr¨® 190 fotos de ni?os y ni?as australianas introducidas tambi¨¦n en LAION-5B sin el consentimiento de sus padres. Algunas de ellas hab¨ªan sido sacadas de YouTube.

?Son Brasil y Australia casos aislados? El an¨¢lisis de Hye invita a pensar que no. Solo examin¨® unas 5.000 im¨¢genes de ni?os de cada pa¨ªs, lo que supone en torno al 0,0001% del repositorio LAION-5B. ¡°No nos consta que en Europa se utilicen im¨¢genes de ni?os en el entrenamiento de IA. Sin embargo, es muy probable que esas im¨¢genes se est¨¦n recopilando y utilizando en modelos de IA en nuestro continente¡±, se?ala Felix Mikolasch, abogado especializado en protecci¨®n de datos de NOYB (acr¨®nimo de None of Your Business, no es asunto tuyo), una organizaci¨®n austriaca dedicada a defender los derechos digitales de los ciudadanos europeos.

?Qu¨¦ tipo de consentimiento se requiere para poder usar fotos de ni?os? ¡°Los menores de 14 a?os no pueden prestar un consentimiento v¨¢lido a esos efectos. Por debajo de esa edad hace falta el consentimiento de ambos padres, del tutor o similar¡±, explica Jorge Garc¨ªa Herrero, abogado especializado en protecci¨®n de datos.

¡°Los modelos no memorizan im¨¢genes, solo aprenden los patrones matem¨¢ticos subyacentes para fabricar im¨¢genes sint¨¦ticas precisas a las de la base de datos de entrenamiento¡±, precisa Garc¨ªa Herrero, que es delegado de protecci¨®n de datos (la figura que vela por el cumplimiento de la normativa) de una empresa que tiene un importante banco de im¨¢genes. ¡°Si haces bien las cosas, pides el consentimiento a los modelos menores o a sus padres para el uso de la imagen y eliminas el contexto de las fotos¡±, dice en referencia a los metadatos (como la fecha o el lugar en que se hizo la foto) que puedan ayudar a identificar a los sujetos.

?Qu¨¦ debemos hacer si descubrimos la foto de alg¨²n conocido en uno de estos repositorios? ¡°Los ciudadanos pueden solicitar su supresi¨®n directamente. Tambi¨¦n pueden dirigirse a la AEPD. Adem¨¢s, existe la posibilidad de reclamar da?os y perjuicios ante los tribunales¡±, indica Mikolasch.

Denuncias a Meta

Horas despu¨¦s de que Meta mandara el correo electr¨®nico a todos los usuarios de Instagram y Facebook dici¨¦ndoles que la compa?¨ªa quer¨ªa usar sus datos para entrenar su IA, el abogado Luis Gerv¨¢s de la Pisa puso dos denuncias. Una ante la Agencia Espa?ola de Protecci¨®n de Datos (AEPD), y la otra ante la autoridad de Irlanda. ¡°La medida vulnera mi derecho de acceso y de supresi¨®n. Es decir, quiero saber si efectivamente se usan mis datos para esa tarea y no me est¨¢n pidiendo consentimiento para hacer lo que dicen que quieren hacer¡±, se?ala. Las denuncias est¨¢n ahora paradas, en tanto que Meta decidi¨® congelar su decisi¨®n.

La organizaci¨®n NOYB, por su parte, present¨® otras 11 denuncias ante las autoridades de protecci¨®n de datos de varios pa¨ªses de la UE. ¡°Meta est¨¢ diciendo b¨¢sicamente que puede utilizar cualquier dato de cualquier fuente para cualquier prop¨®sito y ponerlo a disposici¨®n de cualquier persona en el mundo, siempre y cuando se haga mediante tecnolog¨ªa de IA. Esto es claramente lo contrario a cumplir el Reglamento General de Protecci¨®n de Datos¡±, dijo entonces el abogado Max Schrems, fundador de NOYB.

Facebook e Instagram no son las ¨²nicas redes sociales que quieren aprovechar los datos de sus usuarios para entrenar las IA de su matriz. X, la antigua Twitter, tambi¨¦n lo hace por defecto. Quienes no quieran que sus tuits y mensajes privados sirvan para entrenar a Grok, la herramienta de IA generativa de Elon Musk, tienen que desactivar esa funci¨®n (que est¨¢ activada por defecto) en la configuraci¨®n de la plataforma.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.