Timnit Gebru: ¡°No solo es Facebook, las redes sociales propagan el odio con impunidad¡±

El despido de Timnit Gebru de Google dio la vuelta al mundo hace ahora un a?o. A la ingeniera et¨ªope (Adis Abeba, 38 a?os), codirectora del equipo de ?tica de la Inteligencia Artificial (IA) de la multinacional, se le comunic¨® por correo electr¨®nico que se hab¨ªa aceptado su solicitud de abandonar la empresa. Ella dice que nunca pidi¨® eso; lo que s¨ª hizo fue quejarse ante unos colegas de que la compa?¨ªa quisiera censurar un art¨ªculo cient¨ªfico suyo todav¨ªa sin publicar en el que describ¨ªa c¨®mo los modelos algor¨ªtmicos de procesamiento del lenguaje, usados para autocompletar b¨²squedas o mantener conversaciones con programas inform¨¢ticos, est¨¢n fuertemente sesgados y perjudican a las minor¨ªas.

Gebru anunci¨® la semana pasada, justo un a?o despu¨¦s del esc¨¢ndalo, el lanzamiento de su propio centro de investigaci¨®n, el Distributed AI Research Insititute (DAIR). Financiado con 3,8 millones de d¨®lares (3,3 millones de euros) por varias fundaciones, entre ellas la Rockefeller, la MacArthur y la Open Society, se dedicar¨¢ a estudiar los da?os que causa la tecnolog¨ªa en los grupos m¨¢s marginados por estas. Para ello ha montado un equipo multidisciplinar en el que inform¨¢ticos, especialistas en ciencia de datos y en visi¨®n artificial conviven con soci¨®logos, trabajadores sociales y otros perfiles humanistas. ¡°He visto c¨®mo funcionan la academia y la industria y ambos tienen estructuras de incentivos que no se alinean con lo que quiero hacer¡±, explica a EL PA?S por videollamada. ¡°Mi idea es centrar las preguntas y la investigaci¨®n en direcciones que puedan ser ¨²tiles para las personas que suelen ser ignoradas por las instituciones de investigaci¨®n convencionales¡±.

Los ecos del despido de Gebru todav¨ªa resuenan en la industria. Y concretamente en Google, cuyo compromiso con la defensa de sus prop¨®sitos ¨¦ticos qued¨® desde entonces cuestionado. Deshacerse de malas formas de una reputada cient¨ªfica como ella en una compa?¨ªa en cuya plantilla solo hay un 1,6% de mujeres negras y en el que los hombres blancos ocupan casi el 50% de los cargos directivos levant¨® ampollas de puertas adentro. Hacerlo, adem¨¢s, como aparente castigo por se?alar fallos de praxis en un sector tan cuestionado como es el de la tecnolog¨ªa atrajo todas las miradas. Varios congresistas y senadores de Estados Unidos exigieron a la compa?¨ªa que explicase el despido y revelase el contenido ¨ªntegro del informe de Gebru. M¨¢s de 2.500 empleados de Google y de 4.000 acad¨¦micos de todo el mundo firmaron una carta en apoyo de la cient¨ªfica. Sundar Pinchai, consejero delegado de Alphabet, matriz de Google, tuvo que mandar un correo a sus empleados pidiendo disculpas por el despido y asegurando que se revisar¨ªa el proceso.

Y, de hecho, se revis¨®, seg¨²n confirma la aludida. ¡°Unos meses despu¨¦s de que me echaran me contact¨® alguien de Google dici¨¦ndome que estaban investigando el despido y pidi¨¦ndome que le contestara a unas preguntas¡±, asegura. ¡°Por supuesto, les contest¨¦ que no¡±, a?ade entre risas. ¡°S¨¦ c¨®mo van estas cosas: quer¨ªan encontrar algo a lo que agarrarse, algo que yo hiciera que lo pudiera justificar. Despu¨¦s de ser tan irrespetuosos conmigo no quise saber nada de ellos¡±.

Quiz¨¢s lo m¨¢s llamativo del caso Gebru es que cab¨ªa esperar que el trabajo de la cient¨ªfica no fuera del agrado de Google. La compa?¨ªa la fich¨® siendo ya una investigadora de prestigio. Doctorada en visi¨®n artificial en la Universidad de Stanford bajo la direcci¨®n de la c¨¦lebre profesora Fei-Fei Li, salt¨® a la fama en la academia tras publicar en 2018 junto a su colega Joy Buolamwini, del MIT, un art¨ªculo ya cl¨¢sico en el que demuestran que el margen de error de los sistemas de reconocimiento facial es del 1% entre hombres blancos, pero la precisi¨®n empeora si se fijan en mujeres o en negros. Con las mujeres negras, estos sistemas se equivocan el 35% de las veces. El revuelo que caus¨® el estudio fue tal que algunas compa?¨ªas, como Amazon o IBM, revisaron sus algoritmos para tratar de corregir ese defecto.

Los ejecutivos de Google quisieron contar con ella para encabezar el ¨¢rea de ¨¦tica de los algoritmos. Y cuando se puso a trabajar, no les gust¨® lo que vieron. ¡°Lo interesante del asunto es que no hice nada rompedor, realmente creo que el art¨ªculo no habr¨ªa recibido demasiada atenci¨®n p¨²blica si no me hubieran despedido. Lo que muestra mi caso es el poco est¨®mago que tienen en Google para encajar cualquier tipo de cr¨ªtica¡±, subraya.

Cree que la usaron. ¡°Nos tienen para eso. Cuando el Congreso y el Senado preguntaron por mi despido y el art¨ªculo, Jeff Dean [m¨¢ximo responsable de Google AI] dijo que la empresa se preocupa mucho de la ¨¦tica, que tiene 500 art¨ªculos escritos sobre el tema y varios grupos de investigaci¨®n trabajando en ¨¦tica. As¨ª usan nuestro trabajo, de cara a los reguladores. ?Por qu¨¦ hiciste estas cosas horribles con los negros? ?Oh, no, si nosotros hacemos muchas cosas con los negros! Si hasta dedicamos una gran cantidad de dinero a esta investigaci¨®n aleatoria que nos hace parecer buenos¡­¡±.

Gebru sab¨ªa a lo que iba. Nunca pretendi¨® cambiar Google desde dentro, aunque s¨ª pens¨® que podr¨ªa generar en la compa?¨ªa un espacio en el que la gente expresase sus opiniones. No pudo ser. ¡°Desde el mismo momento en que me contrataron me preguntaba cu¨¢nto durar¨ªa en Google. Cada mes me dec¨ªa: guau, t¨ªo, ?podr¨¦ seguir haciendo esto durante otros tres meses? Bueno, al acabar el trimestre ser¨¦ evaluada, pero hasta entonces, a trabajar. Y luego volv¨ªa a pensar si podr¨ªa seguir. Y as¨ª estuve dos a?os¡±, recuerda.

Apartheid y genocidio

La cient¨ªfica y su equipo de DAIR ya tienen dos proyectos en marcha. El primero de ellos pretende analizar el legado del apartheid espacial en Sud¨¢frica usando t¨¦cnicas de visi¨®n artificial, un campo de aprendizaje autom¨¢tico que ense?a a las m¨¢quinas a entender las im¨¢genes. Gebru y su equipo est¨¢n estudiando c¨®mo hacer p¨²blica la base de datos y c¨®mo desarrollar visualizaciones con las que la gente pueda interactuar. ¡±Lo bueno de ser independientes es que podemos invertir m¨¢s recursos en pulir el resultado para difundirlo si as¨ª lo queremos. En la investigaci¨®n universitaria se te exige sacar art¨ªculos en congresos; en la investigaci¨®n corporativa est¨¢s sometida a la voluntad de quien mande, como me pas¨® a m¨ª en Google. Ahora podemos controlar el proceso de principio a fin¡±, se?ala con entusiasmo.

El segundo, en fase m¨¢s embrionaria, quiere medir el impacto de las redes sociales en los pa¨ªses que las propias plataformas no consideran relevantes. ¡°En Etiop¨ªa, donde nac¨ª y me crie, en guerra desde noviembre del a?o pasado, se ha notado especialmente la ausencia de moderadores de contenidos¡±, se lamenta. La difusi¨®n del discurso del odio y de bulos ha tenido efectos devastadores, asegura. Gebru y otros colegas denunciaron hace dos meses lo que consideraban ¡°una clara llamada al genocidio¡± en Facebook. El post se public¨® en am¨¢rico, una de las lenguas habladas en el pa¨ªs africano. La empresa respondi¨® que la publicaci¨®n no incumpl¨ªa las normas, aunque lo retir¨® tras reiteradas denuncias de periodistas y despu¨¦s de haber sido compartido y comentado por muchos usuarios.

Aunque la empresa de Mark Zuckerberg se lleva la fama, Gebru alerta de que otras redes sociales son igualmente peligrosas en la difusi¨®n de este tipo de contenidos. ¡°Solemos centrarnos en Facebook cuando hablamos de moderaci¨®n de contenidos, pero YouTube es un canal muy usado tambi¨¦n y al que apenas se presta atenci¨®n en este contexto. Clubhouse, TikTok, Telegram¡­ Todas estas redes se usan para propagar mensajes de odio con impunidad. Estoy tratando de ver qu¨¦ cosas tangibles podr¨ªa hacer en este campo que sean de ayuda¡±, apunta.

Gebru es consciente de que su instituto es una hormiga frente a los gigantes tecnol¨®gicos. Pero no est¨¢ sola. La Algorithmic Justice League, fundada por su amiga Joy Buolamwini; el AI Institute, de la australiana Cate Crawford, y Data & Society, entre otras, trabajan en la misma direcci¨®n, cada una en su nicho. Aunque cree que la primera l¨ªnea de defensa para la sociedad es promover normativas laborales s¨®lidas en las empresas que desarrollan la tecnolog¨ªa. ¡°Es imprescindible que los trabajadores puedan quejarse cuando ven algo raro sin temor a perder su trabajo. En EE UU, la asistencia sanitaria est¨¢ ligada a tu empresa; tu visado, en el caso de que seas extranjero, tambi¨¦n. Si te echan te quedas sin nada, y el Gobierno no te presta apoyo. Si no cambiamos eso, las empresas seguir¨¢n teniendo la sart¨¦n por el mango¡±.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.