¡°Google me cerr¨® la cuenta por ¡®contenido sexual¡¯. Pero siguen sin aclararme cu¨¢l y he perdido todo¡±

Hace cinco a?os, tras la muerte de un amigo y compa?ero de grupo musical, David Barber¨¢ decidi¨® pagar por una cuenta en la nube de Google Drive. Quer¨ªa conservar archivos musicales para que los hijos de su amigo oyeran c¨®mo tocaba su padre. ¡°Entonces contrat¨¦ el servicio de Google Drive¡±, dice. ¡°Era lo m¨¢s seguro que se me ocurri¨® para que la m¨²sica de Javi no se perdiera, los ni?os entonces eran muy peque?os¡±, a?ade.

Barber¨¢, de 46 a?os y profesor de secun...

Hace cinco a?os, tras la muerte de un amigo y compa?ero de grupo musical, David Barber¨¢ decidi¨® pagar por una cuenta en la nube de Google Drive. Quer¨ªa conservar archivos musicales para que los hijos de su amigo oyeran c¨®mo tocaba su padre. ¡°Entonces contrat¨¦ el servicio de Google Drive¡±, dice. ¡°Era lo m¨¢s seguro que se me ocurri¨® para que la m¨²sica de Javi no se perdiera, los ni?os entonces eran muy peque?os¡±, a?ade.

Barber¨¢, de 46 a?os y profesor de secundaria, no hab¨ªa, sin embargo, previsto un detalle clave: los t¨¦rminos de servicio de Google esconden una guillotina que inhabilita cuentas cuando detecta contenido prohibido, como material sexual infantil o terrorismo. ¡°Lo ¨²nico que se me ocurre pensar es que sub¨ª algo que no deb¨ªa haber subido, como pel¨ªculas descargadas en la ¨¦poca de eMule. ?Puede haber pornograf¨ªa infantil o terrorismo? Puede¡±, explica Barber¨¢ desde Valencia a EL PA?S en una larga conversaci¨®n telef¨®nica.

Este profesor no sab¨ªa qu¨¦ hab¨ªa pasado. Solo fue encajando piezas al leer foros o art¨ªculos en prensa. Barber¨¢ describe una desesperante experiencia de indefensi¨®n para intentar entender qu¨¦ ocurri¨®: en el mes de julio, necesitaba unos archivos de m¨²sica que ten¨ªa en discos duros antiguos. Primero, para organizarlo, empez¨® a subir todo a su Drive, por el que a¨²n paga cada mes para tener 2 terabytes de espacio. A los pocos minutos de empezar el proceso, Google le inhabilit¨® la cuenta con un mensaje donde dec¨ªa que hab¨ªan encontrado ¡°contenido da?ino¡±.

Inici¨® entonces varios procesos de reclamaci¨®n, contest¨® correos de aparentes empleados de Google que le ped¨ªan nuevos detalles (Nahuel, Roc¨ªo, Laura), llam¨® a todos los tel¨¦fonos de la empresa que encontr¨® sin poder nunca hablar con un humano, pidi¨® ayuda a un familiar periodista e incluso finalmente logr¨® charlar con una aparente empleada de Google, que le pidi¨® ¡°paciencia¡±.

El contenido sexual

De todo este proceso, solo sac¨® una respuesta concreta. Fue un mensaje al correo de su mujer (que hab¨ªa a?adido en su d¨ªa como cuenta secundaria), con este texto confuso: ¡°Creemos que tu cuenta inclu¨ªa contenido sexual que puede infringir las condiciones de servicio de Google y que quiz¨¢s tambi¨¦n est¨¦ prohibido por la ley¡±, empieza, pero luego sigue: ¡°Hemos eliminado este contenido¡± y ¡°si contin¨²as infringiendo nuestras pol¨ªticas, podemos cancelar tu cuenta de Google¡±. Esto ocurri¨® el 26 de agosto y, aunque parece una advertencia, la cuenta sigue inhabilitada.

¡°Lo tengo todo ah¨ª de los ¨²ltimos 14 a?os, y desde hace cinco, solo lo tengo ah¨ª¡±, dice, en referencia a que no lo conserva en discos externos. La p¨¦rdida de la cuenta de Google no solo implica la desaparici¨®n de fotos y v¨ªdeos. Barber¨¢ ha perdido tambi¨¦n sus clases, un blog que llevaba y su cuenta de YouTube. Tambi¨¦n los servicios que hab¨ªa contratado con su correo, desde Amazon a Netflix, pasando por una aplicaci¨®n musical alemana: ¡°Ahora debo renovarla, pero c¨®mo les explico que s¨ª, que soy yo, pero no soy yo por un asunto de pederastia o terrorismo... les va a encantar¡±, ironiza.

El diario The New York Times public¨® en agosto dos casos similares en Estados Unidos. Google le cont¨® a la periodista que las im¨¢genes ¡±prohibidas¡± eran fotos de genitales de ni?os que dos padres sacaron para mandar al pediatra por un problema de piel. Cuando EL PA?S pregunt¨® lo mismo, Google respondi¨® que no pod¨ªan dar esa informaci¨®n ya que se trata de un usuario europeo y solo iban a compartirla con ¨¦l. Pero Barber¨¢ sigue sin recibir ning¨²n detalle.

Google ha ofrecido a este peri¨®dico conversaciones ¡°en segundo plano¡± con empleados, que en argot significa que el periodista no puede identificar a los interlocutores ni citar sus palabras textuales. Seg¨²n la compa?¨ªa, insistiendo que no se refer¨ªan a este caso, el correo del ¡°contenido sexual¡± solo se manda en casos de abusos a menores, en ning¨²n caso por porno adulto. ?Por qu¨¦ entonces esa frase que implica ¡°no vuelvas a hacerlo¡±? Google no dio m¨¢s detalles, aparte de que todo depende de lo que hubiera en esa cuenta. Un empleado de Google pregunt¨® si este peri¨®dico iba a nombrar al usuario afectado, pero no aclar¨® por qu¨¦ le interesaba saberlo.

EL PA?S ha encontrado otros tres casos similares al de Barber¨¢: dos m¨¢s con cuentas de Google y uno de Microsoft. Todos los casos son de 2022 y solo en un caso la cuenta ha vuelto de momento a su propietario. Pero no era por presuntas im¨¢genes sexuales de ni?os, sino por un problema con la contrase?a que tampoco fue nunca aclarado.

Los otros tres usuarios entrevistados por EL PA?S est¨¢n en el limbo de las grandes corporaciones, que en realidad son demasiado peque?as para gestionar m¨¢s de mil millones de cuentas.

Un amigo en Google

Otra v¨ªctima, que ha pedido no aparecer con su nombre porque su empresa puede tener a Google de cliente, recurri¨® a ¡±un amigo ¨ªntimo¡± que trabaja dentro de la compa?¨ªa en Espa?a. El amigo no trabaja en un departamento vinculado a la moderaci¨®n de contenido, pero investig¨® internamente qu¨¦ sol¨ªa ocurrir en estos casos. Su respuesta fue poco optimista: esto se gestiona en el extranjero y ni idea de si alguien realmente leer¨¢ la reclamaci¨®n. Le dio poca esperanza.

Como en el caso de Barber¨¢, este usuario hab¨ªa visto su cuenta inhabilitada tras subir 40 gigas de fotos, v¨ªdeos y conversaciones de WhatsApp que ten¨ªa en su disco duro. La subida de archivos fue tan notable que los encargados de ciberseguridad de su empresa lo llamaron para preguntarle qu¨¦ ocurr¨ªa. Google no aclara cu¨¢ndo ni c¨®mo analiza las cuentas de sus usuarios. Pero tanto en los casos de The New York Times en Estados Unidos como en estos dos, se produjo al detectar movimiento de archivos. En los casos espa?oles, cuando hubo subidas masivas de datos.

La tercera v¨ªctima ha puesto su caso contra Microsoft en manos de la abogada Marta Pascual, que est¨¢ preparando la demanda. Su cliente est¨¢ desesperado porque ha perdido datos de su vida privada pero tambi¨¦n laboral: ¡°Su m¨¢ster del IESE, los impuestos, las fotos de los nacimientos de hijos y bases de datos del trabajo. Est¨¢ sufriendo¡±, dice Pascual. No ve otra salida que demandar. ¡°El juez puede decir que ha visto vulnerado su derecho a la intimidad, aunque no he encontrado jurisprudencia¡±, a?ade.

El cliente de Pascual cree que los archivos sospechosos vienen de grupos de WhatsApp, cuyo contenido conservaba y sub¨ªa autom¨¢ticamente. Los tres afectados tienen hijos y, aunque no recuerdan fotos para el pediatra, s¨ª ten¨ªan las t¨ªpicas im¨¢genes de ni?os en la ba?era, cama o piscina.

Microsoft tampoco da detalles

Microsoft a¨²n da menos informaci¨®n que Google. Solo manda unas declaraciones sobre c¨®mo lucha contra la pederastia en sus sistemas: ¡°Primero, financiamos investigaciones para comprender mejor c¨®mo los delincuentes abusan de la tecnolog¨ªa. Segundo, desarrollamos tecnolog¨ªa como PhotoDNA para detectar casos de explotaci¨®n sexual infantil. Tercero, nuestro personal de agentes investiga r¨¢pido los informes de contenido violatorio y lo elimina. Y cuarto, trabajamos con otras empresas de tecnolog¨ªa y las fuerzas del orden p¨²blico para remitir los delitos¡±.

Como Microsoft, en una conversaci¨®n que este peri¨®dico mantuvo con Google, la confianza en sus sistemas de detecci¨®n es notable. De hecho, su software se ha refinado o cada vez encuentra m¨¢s falsos positivos: entre julio y diciembre de 2021 suspendi¨® 140.868 cuentas, casi el doble respecto al primer semestre de 2020.

Google analiza cuentas para buscar material sexual infantil con dos tecnolog¨ªas: las im¨¢genes ya conocidas tienen un c¨®digo num¨¦rico que las identifica. Si sus sistemas encuentran im¨¢genes que coinciden con esos c¨®digos, inhabilita. Es el sistema PhotoDNA citado por Microsoft.

El problema son las nuevas. Para esas, Google ha creado un segundo sistema de visi¨®n por ordenador que interpreta las im¨¢genes y les asigna una probabilidad de que sean pedofilia. Luego, en teor¨ªa, van a revisores humanos que deciden si una foto cruza el umbral sexual. La compa?¨ªa est¨¢ preocupada ahora por el material creado por j¨®venes en exploraci¨®n sexual sin m¨¢s, que puede sacarse de ese contexto.

Google tambi¨¦n ha hablado con pediatras por ejemplo para que el ordenador sepa distinguir en qu¨¦ momento el cuerpo de un adolescente ya es adulto. La pretensi¨®n de objetividad con un fin loable puede hacer que caigan tambi¨¦n muchas v¨ªctimas inocentes.

La fina l¨ªnea roja

La misma fina l¨ªnea roja recorren cuando se trata de las t¨ªpicas fotos de ni?os en piscinas o ambientes inocentes. Google se preocupa porque, fuera de su contexto o retocadas, esas fotos pueden acabar en archivos compartidos entre ped¨®filos. Google se centrar¨¢ en casos supuestamente flagrantes, pero este peri¨®dico public¨® una historia sobre atletas adolescentes y ni?as cuyos cuerpos eran usados en YouTube con fines dudosos y los v¨ªdeos siguen en abierto.

Los usuarios afectados por estas suspensiones quiz¨¢s reciban un d¨ªa otra llamada: la Polic¨ªa. ¡°Tengo un amigo que es polic¨ªa nacional y lo llam¨¦ para contarle el caso y me dijo que lo mirar¨ªa con delitos inform¨¢ticos¡±, dice Barber¨¢, el profesor valenciano. ¡°Le dijeron que no conoc¨ªan ning¨²n caso como el m¨ªo¡±. Sin embargo, es probable que alg¨²n caso haya llegado a Espa?a por el esfuerzo de las grandes corporaciones. Google o Microsoft deben informar de sus hallazgos sospechosos al centro nacional para menores desaparecidos y explotados (NCMEC) de Estados Unidos. El centro es quien avisa a las polic¨ªas nacionales.

El NCMEC mand¨® a Espa?a 33.136 informes en 2021. Fuentes de la Polic¨ªa confirman que ese es el proceso habitual y que puede ser que reciban informes con una o pocas im¨¢genes. Suelen ser casos que no se investigan. De todos modos, la Polic¨ªa no informa de vuelta a Google o Microsoft de que esa persona no es sospechosa. Las compa?¨ªas toman sus propias decisiones y dependen de que la v¨ªctima pueda justificar la presencia del material detectado. Para eso, sin embargo, deben informar de cu¨¢l es ese material, lo que no siempre ocurre. Es probable que si, en su opini¨®n, los archivos encontrados son de una gravedad extrema o en cantidades enormes, ya no haya ni opci¨®n de recurso.

Rub¨¦n Losada es un periodista que se qued¨® sin cuenta por un problema al introducir la contrase?a. Por alg¨²n motivo, explica, Google crey¨® que no era ¨¦l. Losada estaba en Tenerife de viaje y necesitaba pillar un bus con urgencia. Por alguna raz¨®n, Google le pidi¨® su contrase?a. Se equivoc¨® varias veces y quiso introducir una nueva. Entonces qued¨® bloqueado. Losada cree que el cambio de residencia y los errores lo fulminaron.

Aunque el inicio de su caso es distinto al del resto, la indefensi¨®n y el muro fueron parecidos. Como el resto, Losada pagaba por su cuenta y aun as¨ª nunca encontr¨® un interlocutor. Se plante¨® acudir a los tribunales. No iba a perder su cuenta de ning¨²n modo, dice. Cada dos o tres semanas reclamaba de nuevo. Pero a los seis meses pudo volver a acceder, sin saber por qu¨¦: ¡°Un conocido que es analista de seguridad me dijo que a veces estos sistemas est¨¢n programados as¨ª y a los seis meses se reinician¡±, dice.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.