Fernanda Vi¨¦gas: ¡°La justicia del algoritmo no puede depender solo de un ingeniero¡±

Si los algoritmos hablaran, todo ser¨ªa m¨¢s f¨¢cil. Nos avisar¨ªan de que est¨¢n tomando decisiones por los motivos equivocados. ¡°Este resultado tiene en cuenta el g¨¦nero¡±, dir¨ªan. O, cuando han sido mal entrenados: ¡°Los datos en los que me baso no son representativos¡±. Pero por m¨¢s expectativas que pongamos sobre los hombros de estas f¨®rmulas que Cathy O¡¯Neil describi¨® como ¡°opiniones encerradas en matem¨¢ticas¡±, la tarea de evitar que vayamos por el mal camino sigue siendo de los humanos.

Fernanda Vi¨¦gas no ha logrado que los algoritmos hablen. Pero casi. Lidera People + AI Research (PAIR), la divisi¨®n de Google dedicada a preservar las buenas formas entre la inteligencia artificial y los humanos que lidian con ella, a trav¨¦s de visualizaciones de datos y manuales como su People+AI Guidebook. ¡°No somos la polic¨ªa. Pero estamos muy interesados en grandes objetivos, como lograr que el aprendizaje autom¨¢tico sea justo, mediante pasos concretos. Construimos herramientas que pueden usarse internamente en Google y luego las abrimos al resto del mundo¡±, afirma.

SOBRE LA INCERTIDUMBRE

La carrera de Vi¨¦gas empez¨® muy lejos de Google, geogr¨¢fica y acad¨¦micamente. A las puertas de la universidad, solo sab¨ªa que no sab¨ªa cu¨¢l era su vocaci¨®n. Esto en Brasil era un problema. ¡°Cuando est¨¢s decidiendo qu¨¦ estudiar tienes que hacer ex¨¢menes espec¨ªficos para cada universidad y tambi¨¦n para cada titulaci¨®n. As¨ª que, si cambias de idea, tienes que dejarlo y volver a presentarte¡±, explica. Tres veces lo intent¨®. Prob¨® suerte con Ingenier¨ªa Qu¨ªmica, Literatura y Magisterio. Y tres veces decidi¨® dar marcha atr¨¢s.

Entonces descubri¨® que en Estados Unidos pod¨ªa seguir avanzando pese a su indecisi¨®n y probar diferentes itinerarios antes de decidir con cu¨¢l quedarse. ¡°Definitivamente soy el tipo de persona que necesita cambiar de idea¡±, admite. Su siguiente hallazgo fue el Dise?o Gr¨¢fico. ¡°Jam¨¢s hab¨ªa o¨ªdo hablar de las visualizaciones de datos¡±, asegura. Se decant¨® por esta carrera y a?adi¨® a la mezcla un segundo t¨ªtulo de Historia del Arte.

El puente entre esas dos disciplinas y la tecnolog¨ªa lo tendi¨® en el MIT. ¡°Me hablaron del MediaLab, un lugar que recibe a gente de diferentes perfiles y les plantea distintas maneras de abordar la tecnolog¨ªa¡±, recuerda la investigadora, que acab¨® haciendo un m¨¢ster y un doctorado centrados en visualizaci¨®n de datos. ¡°Creo que hoy en d¨ªa es muy poderosa la habilidad de pivotar entre diferentes campos y conectar puntos que no estaban relacionados antes. La mayor¨ªa de mis compa?eros no tiene formaci¨®n en dise?o gr¨¢fico y esto significa que aporto ideas diferentes. Me hago preguntas que nadie a mi alrededor se est¨¢ planteando¡±, razona.

?Ser forastero en una disciplina es la receta del ¨¦xito? ¡°Qu¨¦ va. Cada uno tiene su propio camino. Tengo compa?eros maravillosos que siempre se han dedicado a las ciencias de la computaci¨®n. He aprendido much¨ªsimo de personas incre¨ªblemente expertas en campos muy espec¨ªficos. Lo que necesitamos es diversidad¡±.

Su manera de dar voz a los sistemas de aprendizaje autom¨¢tico es crear una ventana que permita al ojo experto y al profano ver lo que est¨¢ pasando ah¨ª dentro. PAIR hace gr¨¢ficos que muestran la forma en que los modelos de aprendizaje incurren en la filtraci¨®n de datos, que revelan d¨®nde se esconden los posibles sesgos y que ayudan a que los algoritmos tomen decisiones m¨¢s justas.

LENGUAJE DE LAS M?QUINAS

Atenci¨®n, spoiler: no hay una receta universal para frenar la injusticia y siempre se renuncia a algo. ¡°Los ingenieros deber¨ªan ser conscientes de esto, pero tambi¨¦n necesitamos que m¨¢s partes interesadas ayuden a decidir a qu¨¦ se renuncia. Lo justo tiene diferentes aspectos en funci¨®n del contexto, los pa¨ªses, las situaciones. No deber¨ªa haber una sola persona decidiendo esto, no puede ser solo el ingeniero¡±, a?ade Vi¨¦gas.

La experta dise?a sus proyectos como si los fuera a ver cualquiera. En su mente est¨¢n presentes el estudiante que quiere saber m¨¢s sobre esta tecnolog¨ªa, el m¨¦dico que no quiere confiar a ciegas en un sistema que no entiende y el ingeniero que necesita comprender c¨®mo sus l¨ªneas de c¨®digo pueden cambiar la vida de otras personas. ¡°Necesitamos que m¨¢s gente entienda c¨®mo funciona el aprendizaje autom¨¢tico y cu¨¢les son sus limitaciones, de manera que se sientan autorizados a hacer preguntas cr¨ªticas¡±.

Sin embargo, el debate sobre estos sistemas no puede ampliarse mientras la lengua franca sea la de los ingenieros. ¡°Muchos de estos m¨¦todos tienden a ser muy t¨¦cnicos¡±, se?ala. Por ejemplo, un sistema de clasificaci¨®n de im¨¢genes podr¨ªa determinar que lo que est¨¢ viendo es una cebra al tomar en cuenta la ubicaci¨®n y concentraci¨®n de ciertos p¨ªxeles. ¡°Ese no es el modo en que piensan los humanos. Es el modo en que piensan los ordenadores¡±, a?ade. En este contexto, la labor de PAIR es traducir las reflexiones de la m¨¢quina en explicaciones comprensibles para el com¨²n de los mortales.

¡°Una investigadora de nuestro equipo cre¨® una t¨¦cnica que permite expresar qu¨¦ conceptos son los importantes y consultarlos con la m¨¢quina¡±, precisa Vi¨¦gas. En el ejemplo de la cebra, este sistema nos permitir¨ªa olvidarnos de los p¨ªxeles y preguntar c¨®mo de importantes han sido las rayas en esa decisi¨®n. En el caso real de un clasificador de im¨¢genes de tejidos tumorales, permiti¨® a los m¨¦dicos asegurarse de que el sistema est¨¢ teniendo en cuenta los rasgos correctos. ¡°Probaban la herramienta para intentar entenderla, para calibrar su confianza en ella. La belleza de esto es que de pronto das a un m¨¦dico la habilidad de expresarse y dialogar con el sistema¡±.

Herramientas como esta arrojan algo de luz en un escenario donde encomendarnos a los modelos de aprendizaje autom¨¢tico ¡ªpara que decidan si somos empleables, si nos conceden un cr¨¦dito, si nos interesa ver lo ¨²ltimo de Marvel¡ª es un compromiso que tomamos a ciegas. ¡°No hay una regla general para calibrar esa confianza, depende del sistema, del contexto o del nivel de riesgo, entre otros¡±, comenta Vi¨¦gas.

ALGORITMOS M?S FIABLES

?En el caso de los m¨¦dicos, creer o no en los resultados que ofrece un clasificador de tumores es simple y llanamente una cuesti¨®n de vida o muerte. ¡°En ocasiones estos sistemas se vuelven tan precisos como los especialistas o m¨¢s. No estoy diciendo que los m¨¦dicos deban aceptar a ciegas lo que dice la m¨¢quina. Pero descartarlo por completo es un perjuicio al paciente. Y, al mismo tiempo, no queremos que el doctor se f¨ªe demasiado del sistema¡±.

El equilibrio, seg¨²n la investigadora, reside en que la decisi¨®n del profesional se base en su conocimiento de c¨®mo piensa la herramienta y cu¨¢les son sus l¨ªmites. ¡°Necesitan m¨¢s transparencia para hacer mejor su trabajo¡±, concluye.

Una vez m¨¢s, el meollo est¨¢ en que todos podamos ver las tripas de estas tecnolog¨ªas. ¡°Los ingenieros son los que est¨¢n ajustando las clavijas, pero ni siquiera ellos quieren ser los que tomen las decisiones porque se dan cuenta de la responsabilidad que entra?a¡±, dice la experta. Su propuesta alternativa es hacer que esas clavijas est¨¦n al alcance de m¨¢s gente, de manera que todos podamos debatir y decidir c¨®mo ajustarlas.

?Hay tiempo para buscar consenso en un sector donde reinan las prisas? Seg¨²n Vi¨¦gas, no nos queda m¨¢s remedio. ¡°Necesitamos pasar por este proceso complejo y engorroso. A menos que estemos dispuestos a dejar que una persona tome todas las decisiones, que no lo creo, necesitamos m¨¢s di¨¢logos de este tipo¡±. Su promesa es que con el tiempo emerger¨¢n patrones aplicables a situaciones con riesgos similares. ¡°Pero no vamos a arreglar nada si no nos sentamos a hablar¡±.

?Hay riesgo de que esas recomendaciones caigan en saco roto? S¨ª y no. ¡°Parte del salto necesario es que se entienda que esto es alcanzable¡±, sentencia. ?Y para quienes ven estas iniciativas como un esfuerzo de marketing? ¡°Hay mucho trabajo duro y muchos equipos reflexionando profundamente sobre esto, al menos en Google. Adem¨¢s, estamos viendo programas de ciencias de la computaci¨®n de diferentes universidades integrar la ¨¦tica en sus curr¨ªculos. Esto es super importante, los ingenieros necesitan aprender que pueden hacerse estas preguntas mientras construyen los sistemas. No hay que esperar al ¨²ltimo momento¡±.