Google elimina sus cuentas a dos padres por subir fotos de sus hijos desnudos

Mark, un ingeniero de San Francisco, sac¨® unas fotos del pene de su hijo con su m¨®vil Android. Ten¨ªa una infecci¨®n, aparentemente, y quer¨ªa compartir su evoluci¨®n con el pediatra. Mand¨® las im¨¢genes al iPhone de su mujer. Dos d¨ªas despu¨¦s recibi¨® una alerta de Google: su cuenta hab¨ªa sido suspendida, con sus contactos, emails, fotograf¨ªas, calendario y por supuesto su direcci¨®n. Hab¨ªa violado ¡°gravemente¡± las pol¨ªticas de la compa?¨ªa y una de las posibles razones era ¡±explotaci¨®n y abuso infantil¡±. ¡°Oh Dios, Google probablemente piense que es pornograf¨ªa infantil¡±, pens¨® entonces Mark, ...

Mark, un ingeniero de San Francisco, sac¨® unas fotos del pene de su hijo con su m¨®vil Android. Ten¨ªa una infecci¨®n, aparentemente, y quer¨ªa compartir su evoluci¨®n con el pediatra. Mand¨® las im¨¢genes al iPhone de su mujer. Dos d¨ªas despu¨¦s recibi¨® una alerta de Google: su cuenta hab¨ªa sido suspendida, con sus contactos, emails, fotograf¨ªas, calendario y por supuesto su direcci¨®n. Hab¨ªa violado ¡°gravemente¡± las pol¨ªticas de la compa?¨ªa y una de las posibles razones era ¡±explotaci¨®n y abuso infantil¡±. ¡°Oh Dios, Google probablemente piense que es pornograf¨ªa infantil¡±, pens¨® entonces Mark, seg¨²n cont¨® al New York Times, que adelant¨® de esta historia.

Este hecho ocurri¨® en febrero de 2021. Google denunci¨® las fotos a la polic¨ªa, que investig¨® a Mark y archiv¨® el caso poco despu¨¦s. Aun as¨ª, Google ha rechazado devolver sus datos a Mark. Entre otras cosas, la compa?¨ªa alega que tambi¨¦n encontr¨® el video de un beb¨¦ con una mujer desnuda. Mark dice no recordar ese v¨ªdeo: ¡°Nos despertamos una ma?ana. Era un d¨ªa hermoso con mi esposa y mi hijo y quer¨ªa grabar el momento. Si hubi¨¦ramos dormido en pijama, todo esto se habr¨ªa evitado¡±, dice Mark al Times.

Tambi¨¦n en febrero de 2021, otro padre de Texas explic¨® en la aplicaci¨®n Quora un caso similar. Tras suspenderle la cuenta, relat¨® su situaci¨®n: ¡°Pensando en las actividades recientes que podr¨ªan haber provocado que Google lo detectara, lo ¨²nico que me viene a la cabeza es que en los dos d¨ªas anteriores tom¨¦ fotos de la infecci¨®n de mi hijo en sus partes ¨ªntimas para envi¨¢rselas a su pediatra que lo estaba siguiendo diariamente¡±. Este usuario tambi¨¦n trat¨® de apelar la decisi¨®n de Google ¡±a trav¨¦s de su formulario de proceso de revisi¨®n, pero obtuve una respuesta negativa¡±.

Los dos casos muestran la enorme complejidad y peligros de la nueva era digital. La pedofilia es uno de los delitos m¨¢s graves y la mayor¨ªa de las sociedades est¨¢n dispuestas a renunciar a una parte de su privacidad para evitarlo. Pero tambi¨¦n muestra la incre¨ªble capacidad de las grandes compa?¨ªas tecnol¨®gicas para analizar cualquier detalle de nuestra vida ¨ªntima.

Cazadores de pedofilia

La industria tecnol¨®gica combate la pornograf¨ªa infantil con dos herramientas b¨¢sicas, creadas por Windows y Google. La primera, PhotoDNA, consiste en una enorme base de datos donde cada imagen conocida de pornograf¨ªa infantil est¨¢ identificada con un hash (un c¨®digo ¨²nico). Si las m¨¢quinas detectan intercambios de esas im¨¢genes, interceptan y denuncian. La segunda, creada por Google, permite identificar im¨¢genes nuevas. Seg¨²n el art¨ªculo del New York Times, en 2021 esa herramienta detect¨® 4.260 casos. Entre ellos estaban los casos de Mark y el padre de Texas. El n¨²mero exacto de falsos positivos no se conoce.

La decisi¨®n de no devolver las cuentas y anular el correo electr¨®nico de estos dos ciudadanos les caus¨® otros problemas en su vida cotidiana. El cambio de email durante la compra de una casa en Texas hizo levantar sospechas al vendedor, por ejemplo. La insistencia de Google en no devolver las cuentas a estos dos ciudadanos, a pesar de la evidencia de ser telemedicina y el archivo de los casos policiales, muestra el inmenso poder que tiene de convertirse en juez y parte en casos cruciales para miles de personas.

La pornograf¨ªa infantil es una batalla constante para las grandes tecnol¨®gicas. Un caso m¨¢s com¨²n se dio en Twitter en Espa?a durante esta semana. La cuenta @boigbcn, de 23.700 seguidores, fue suspendida despu¨¦s de tuitear un v¨ªdeo de 1963 de playas de Barcelona donde aparec¨ªan ni?os desnudos entre barracas. Su propietario, Joaquim Campa, que maneja una cuenta con cerca de 96.000 seguidores, lo hizo p¨²blico en un tuit.

EL PA?S pregunt¨® a la compa?¨ªa si hab¨ªan detectado a los ni?os por denuncias o autom¨¢ticamente. Toda la respuesta de Twitter es que fue ¡°por error¡±. Al cabo de unas horas la cuenta volv¨ªa a estar activa. Campa ha explicado a este peri¨®dico que no ha recibido en ning¨²n momento ninguna comunicaci¨®n de Twitter: no tiene la certeza de por qu¨¦ la suspendieron ni por qu¨¦ se la devolvieron. La compa?¨ªa tampoco ha querido aclarar a este peri¨®dico por qu¨¦ actu¨®.

Si has tenido una experiencia similar con Google o cualquier otra compa?¨ªa puedes escribir a jordipc@elpais.es

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.