¡°La mayor parte de las veces que nos analizan en Internet ni nos enteramos¡±

M¨¢s informaci¨®n

La lucha contra la tiran¨ªa de los algoritmos

La otra cara del Big Data

?frica conectada

El algoritmo que ¡®adivina¡¯ los delitos futuros falla tanto como un humano

Cathy O'Neil es una matem¨¢tica de pelo azul que dedica todos sus esfuerzos a quitar la venda a la ciudadan¨ªa sobre los algoritmos que dominan el mundo. Desde los que le indican al banco si eres apto o no para recibir una hipoteca, hasta los deciden qui¨¦n merece un puesto de trabajo. Un sistema que puede perpetuar las desigualdades existentes en el mundo si no comenzamos a ser cr¨ªticos, defiende la cient¨ªfica. "Estamos dando poder a unos mecanismos sin preguntarnos si realmente funcionan, eso es un fallo como sociedad", explica desde Nueva York al otro lado del tel¨¦fono.

O'Neil, en su libro Armas de destrucci¨®n matem¨¢tica (Capit¨¢n Swing). hace un recorrido por algunos ejemplos para poner sobre la realidad esa teor¨ªa. Viaja en algunas de sus p¨¢ginas hasta Reading, una peque?a ciudad de Pensilvania (Estados Unidos) que en 2011 ten¨ªa un nivel de pobreza superior al 41%, el m¨¢s alto de todo el pa¨ªs. Con un cuerpo mermado por la crisis, el jefe de la polic¨ªa invirti¨® en un programa de predicci¨®n de delitos llamado PredPol que funciona con big data. La aplicaci¨®n divide la ciudad en cuadrantes y determina en cu¨¢l de ellos es m¨¢s posible que se cometa un delito bas¨¢ndose en el registro hist¨®rico de la polic¨ªa. En el abanico de datos se incluyen desde los m¨¢s leves como alteraci¨®n del orden p¨²blico (beber en la calle, por ejemplo), hasta homicidios.

Cuantos m¨¢s agentes acuden a los puntos que indica el programa, m¨¢s detenciones se producen y as¨ª se entra en un c¨ªrculo vicioso que llena las prisi¨®nes de gente, en su mayor¨ªa, acusada de delitos menos graves. La mayor¨ªa de los detenidos son negros o hispanos. "El mapa de la delicuencia generado de este modo lo que traza en realidad es un rastro de pobreza", apunta la autora. "Seguimos deteniendo a negros por cosas por las que no detenemos a blancos, pero ahora ya no lo decimos abiertamente y lo disfrazamos de ciencia porque lo hacemos con PredPol. Seguimos con el ciclo, porque continuamos arrestando gente de un barrio y los datos nos dicen que tenemos que volver a ese barrio, de esta forma continua la injusticia policial", a?ade en la entrevista.

Seguimos deteniendo a negros por cosas por las que no detenemos a blancos, pero ahora ya no lo decimos abiertamente y lo disfrazamos de ciencia"

Varios estudios han indicado ya que estamos cediendo el control a unos mecanismos autom¨¢ticos que perpet¨²an la discriminaci¨®n. Desde el algoritmo de Google que detect¨® en una foto a un negro como un gorila, hasta la m¨¢quina que relaciona estar en la cocina con ser una mujer, o el algoritmo de Facebook que mostraba anuncios de casas en venta solo a usuarios blancos. "Los ingenieros piensan en t¨¦rminos de optimizar los recursos, lo que hace falta es diversidad en los equipos que dise?an los algoritmos para que incluyan a gente que piense en las violaciones de los derechos humanos o en como van a afectar esos c¨®digos a la sociedad: soci¨®logos abogados, psic¨®logos...", se?ala.

La matem¨¢tica asegura que ya es tarde para preocuparse por el hecho de que nuestros datos est¨¦n disponibles, que ahora toca preguntar a las compa?¨ªas y gigantes tecnol¨®gicos qu¨¦ es lo que est¨¢n haciendo con ellos. ¡°La mayor parte de las veces que nos analizan, especialmente en Internet, ni nos enteramos. Cuando somos conscientes de que nos est¨¢n puntuando en base a nuestros datos, lo primero que tenemos que hacer es pedir explicaciones, que nos muestren el proceso por el que se nos ha calificado, si es algo importante como una hipoteca o un trabajo, incluso utilizar mecanismos legales. Las veces en las que no nos enteramos, son los Gobiernos europeos y el de Estados Unidos los que tienen que establecer normas que indiquen que cada vez que te est¨¦n puntuando tienes que saberlo¡±, apunta O'Neil.

O'Neil elimin¨® su cuenta de Facebook hace un a?o (y la de Twitter tampoco est¨¢ disponible desde hace unas semanas), justo despu¨¦s de las elecciones en las que gan¨® Donald Trump y que ahora est¨¢n en el punto de mira por el uso de los datos de millones de usuarios de Facebook. El esc¨¢ndalo ha llevado a su creador, Mark Zuckerberg, a dar explicaciones en el Senado de Estados Unidos. "Hay que forzar compa?¨ªas como Facebook a explicar qu¨¦ estan consiguiendo con productos, en lugar de asumir que est¨¢n haciendo lo mejor. Ya tenemos la sospecha de que Facebook ha ayudado a difundir noticias falsas, a influenciar el resultado de unas votaciones, a hacer creer a la gente teor¨ªas de la conspiraci¨®n. ?Por que no tenemos las pruebas reales, por qu¨¦ no lo ense?an?", se pregunta la experta.

Lo que hace falta es diversidad en los equipos que dise?an los algoritmos para que incluyan a gente que piense en las violaciones de los derechos humanos"

?Qu¨¦ sucede con los pa¨ªses menos desarrollados? ?Son m¨¢s vulnerables? "Lamentablemente no creo que tengan la oportunidad de tomar las riendas porque las empresas norteamericanas y chinas van a establecer sus reglas m¨¢s r¨¢pido que la propia gente". Los datos var¨ªan, pero Africa 2.0 International Foundation apuntaba en una charla hace un a?o que en el continente africano hay 800 millones de terminales, cuando hace 50 a?os solo hab¨ªa 40.000 tel¨¦fonos. Estos dispositivos, con Internet o sin ¨¦l, ya son una fuente inagotable de datos para las compa?¨ªas.

La matem¨¢tica se muestra optimista, porque al menos los algoritmos forman parte del debate actual, y no se cansa de advertir sobre la confianza ciega en el big data: "Si solo usas datos del pasado, est¨¢s condenado a repetirlo. Tienes que preguntarte a d¨®nde quieres llegar, en lugar de limitarte a analizar de d¨®nde vienes. Si estuvi¨¦ramos orgullosos de nuestro sistema, podr¨ªamos querer usar estos datos para seguir con igual, pero no es el caso".

Puedes seguir a PLANETA FUTURO en Twitter y Facebook e Instagram, y suscribirte aqu¨ª a nuestra newsletter.