Oxford te ense?a c¨®mo hacer que el algoritmo del banco te d¨¦ el cr¨¦dito

A los algoritmos les rodea cierto misticismo. Campan a sus anchas por todas partes, pero nadie los ha visto nunca. Poco m¨¢s que se han convertido en meigas. Lo mismo se encargan de determinar qu¨¦ vemos en nuestro muro de Facebook que de aprobar un pr¨¦stamo hipotecario. Hasta en Estados Unidos dictan sentencias judiciales. Eso s¨ª, que nadie se moleste en comprender a la inteligencia artificial porque, en la mayor¨ªa de casos, es opaca. Le gusta moverse por la oscuridad. Esto es precisamente lo que el investigador Brendt Mittelstadt, junto con sus compa?eros del Oxford Internet Institute Sandra Wachter y Chris Rusell, pretende revertir. Arrojar luz sobre cu¨¢l es su proceso de toma de decisiones.

La algoritmia basada en machine learning construye modelos muy complejos basados en infinidad de datos. Hasta sus propios creadores tendr¨ªan dif¨ªcil explicar su funcionamiento. Aqu¨ª es donde surge lo que Mittelstadt denomina counterfactual explanations -aunque en castellano no existe una traducci¨®n literal, nos valdremos de la idea de hechos objetivos-. Como explica, la idea de este modelo es averiguar por qu¨¦ la tecnolog¨ªa ha llegado a una conclusi¨®n que ni t¨² mismo esperabas. ¡°No se trata de detallar por completo c¨®mo funciona un algoritmo, sino de establecer un camino alternativo para llegar al objetivo que pretend¨ªas¡±, argumenta.

Con un peque?o ejemplo, todo se entiende m¨¢s f¨¢cilmente. El investigador de Oxford opta por las diferencias existentes a la hora de pedir un pr¨¦stamo. ¡°Si tus ingresos son de 30.000 euros, te rechazan la petici¨®n. Ahora bien, si fueran de 45.000, el algoritmo que usa el banco no te habr¨ªa puesto problema alguno. Esto es lo que la inteligencia artificial no te cuenta¡±, sostiene. Pero los hechos objetivos no se detienen aqu¨ª. Ahora toca aportar detalles de lo que puedes corregir para lograr este dinero. Lo mismo se trata de que trabajes en otros sitios, conduzcas un coche diferente o cambies tu lugar de residencia. ¡°Nuestro m¨¦todo establece cu¨¢les son los cambios m¨¢s peque?os posibles que necesitas para modificar el resultado final¡±, zanja.

M¨¢s informaci¨®n

Los omnipresentes algoritmos, con nosotros desde hace 3.000 a?os

?Algoritmos machistas o racistas? Esta es una misi¨®n para 600 superh¨¦roes

Por si alguien anda tentado de pensar que los hechos objetivos solo se han quedado entre las paredes universitarias, Mittelstadt sale al quite con una aseguradora de drones en Reino Unido que ya ha apostado por ellos. Cuando introduces los par¨¢metros, la empresa ofrece detalles de lo que puedes modificar para beneficiarte de unas tarifas u otras. Evidentemente, todo est¨¢ estipulado por la mano negra del algoritmo. ¡°No cuesta lo mismo volar una cantidad de kil¨®metros que otra. Lo justo es que la propia compa?¨ªa te especifique c¨®mo puede variar la cotizaci¨®n de tu seguro seg¨²n la cantidad que determines¡±, a?ade.

El choque con la propiedad intelectual

Las grandes tecnol¨®gicas, aunque tambi¨¦n vale para cualquier organizaci¨®n, guardan gran celo en mantener a los algoritmos a salvo. Como si de una caja negra se tratara. Indestructible ante los imprevistos. La raz¨®n principal es la propiedad intelectual que los salvaguarda. Por esta raz¨®n, tal y como asegura Mittelstadt, su intenci¨®n no exponer sus secretos ni dar acceso a los usuarios para que recorran sus entra?as. Nadie va a comerciar con una tecnolog¨ªa amparada por los derechos de autor. ¡°Otra cosa es la vulneraci¨®n de nuestro derecho fundamental a la privacidad. S¨ª que deber¨ªamos controlar las ideas que infieren los algoritmos a partir de los datos que producimos¡±, alerta.

El investigador de Oxford lleva casi una d¨¦cada dedicada al estudio de la inteligencia artificial. Su inquietud por luchar contra la discriminaci¨®n y las malas pr¨¢cticas le condujo hasta los hechos objetivos. ¡°No puede ser que haya anuncios personalizados seg¨²n nuestra orientaci¨®n sexual cuando no la hemos compartido con ninguna plataforma¡±, expone. Al igual que su metodolog¨ªa ayuda a corregir estas deficiencias, tambi¨¦n pone el acento en la ¨¦tica que debe acompa?ar al machine learning. ¡°Dependemos de la buena voluntad de quienes desarrollan los algoritmos. Por mucho que una empresa diga que son justos, la realidad es que hay personas marginadas y discriminadas¡±, lamenta.

La soluci¨®n que propone nada tiene que ver con una legislaci¨®n gen¨¦rica -¡°aunque ayudar¨ªa¡±, matiza-. Mittelstadt defiende atender al contexto en el que la matem¨¢tica se apodera de decisiones tan trascendentales para nuestro d¨ªa a d¨ªa. ¡°No podemos perder el matiz de en qu¨¦ situaci¨®n operan si queremos lidiar con los sesgos y la equidad. Es imposible determinar lo que es justo sin mirar a nuestro alrededor¡±, concluye. Los hechos objetivos aportan algunas herramientas para corregir la tiran¨ªa de las meigas del siglo XXI. Las disonancias entre los despachos matem¨¢ticos de las grandes tecnol¨®gicas y lo que sucede sobre el terreno han conseguido acortarlas. Lo de menos es comprender su funcionamiento, sino que mejoren realmente para lo que fueron programados.