Ronaldo, Messi y los algoritmos adversarios

Hace unas semanas, Cristiano Ronaldo aseguraba que la competencia con Messi le hab¨ªa hecho ser mejor jugador, y que ¨¦l hab¨ªa hecho ser mejor jugador a Messi. Su rivalidad hab¨ªa ayudado a ambos a marcar una ¨¦poca en la historia del f¨²tbol. Esa misma rivalidad ha llevado a Nadal, Federer y Djokovic a romper los registros de todos los tenistas que les precedieron. ?Qu¨¦ tiene que ver la rivalidad de Cristiano y Messi o la de Nadal y Federer con los algoritmos?

La competencia, bien entendida, es capaz de sacar lo mejor de cada uno. Esto lo entendi¨® un joven investigador de la Universidad de Montreal llamado Ian Goodfellow hace cinco a?os. Propuso un m¨¦todo de aprendizaje autom¨¢tico basado en la competencia entre dos algoritmos en un juego de suma cero. En este juego, las ganancias o p¨¦rdidas de un algoritmo se equilibran con las ganancias y p¨¦rdidas del otro.

Un algoritmo es un conjunto de instrucciones desarrollado para ejecutar una determinada tarea. Los algoritmos no entienden de cansancio o de excusas. Un algoritmo no se rinde y son capaces de hacer millones de repeticiones hasta encontrar una soluci¨®n. Bajo estas premisas, Goodfellow desarroll¨® una novedosa metodolog¨ªa de aprendizaje que ha revolucionado la inteligencia artificial en estos ¨²ltimos cinco a?os. Si juntamos dos algoritmos compitiendo entre s¨ª, y se dise?a esa competencia de forma ¡°sana¡±, las posibilidades son infinitas.

Conocidas como Redes Generativas Antag¨®nicas o Adversarias (del ingl¨¦s Generative Adversarial Networks), han supuesto un avance disruptivo en campos como la generaci¨®n de informaci¨®n, la edici¨®n de im¨¢genes y audio, la seguridad y la ¨¦tica en la inteligencia artificial.

Para hacerse una idea del impacto de Goodfellow y su metodolog¨ªa no hay m¨¢s que ver en n¨²mero de veces que su trabajo ha sido citado por otros investigadores en los ¨²ltimos cuatro a?os. En apenas 4 a?os ha conseguido m¨¢s de 60 mil citas. Algo que a investigadores muy reputados les ha llevado toda una vida. Las Redes Adversarias tienen m¨²ltiples aplicaciones que incluyen la creaci¨®n de contenido digital, la detecci¨®n de Fakes News (DeepFake), o el desarrollo de una inteligencia artificial m¨¢s ¨¦tica, entre otras muchas.

?Qui¨¦n vigila a los vigilantes? Usando Redes adversarias para introducir ¨¦tica en la Inteligencia Artificial

Hace 23 a?os el escritor Alan Moore plante¨® esta pregunta en su comic Watchmen. Partiendo de esta idea y de las posibilidades que ofrecen las Redes Adversarias de Goodfellow, en la Universidad Aut¨®noma de Madrid (UAM) se ha desarrollado un m¨¦todo que permite eliminar ciertos factores sensibles (e.j. g¨¦nero, etnia, edad) de la toma de decisi¨®n de un algoritmo.

El m¨¦todo, denominado SensitiveNets o Redes Sensibles, ha sido probado en tecnolog¨ªas de reconocimiento facial. Se ha demostrado que estas tecnolog¨ªas son sensibles a los sesgos humanos y su rendimiento se ve condicionado por factores demogr¨¢ficos como el g¨¦nero, la edad o la etnia.

Esto quiere decir que nuestro color de piel, edad o g¨¦nero pueden llegar a determinar el resultado de una b¨²squeda basada en estas tecnolog¨ªas. Investigadores de diferentes instituciones de renombre (MIT, Maryland University, University of Notre Dame) han demostrado que existen grupos demogr¨¢ficos que reciben un trato discriminatorio por parte de estas inteligencias artificiales.

En otras palabras, los sistemas se equivocan m¨¢s en personas pertenecientes a grupos desfavorecidos. Este trato no hace m¨¢s que agrandar la brecha en una sociedad ya muy desigual. La tecnolog¨ªa desarrollada por la UAM se basa en el uso de dos algoritmos enfrentados entre s¨ª como hemos comentado antes.

El primero es un algoritmo de reconocimiento facial tradicional (El Vigilante) basado en el popular aprendizaje profundo. El segundo es un detector de informaci¨®n sensible (El que vigila al Vigilante). El aprendizaje del primero le llevar¨¢ a entrenarse para reconocer caras y a su vez no permitir que el segundo sea capaz de detectar la informaci¨®n sensible en el proceso (e.j. g¨¦nero, etnia, edad).

El segundo algoritmo tiene como objetivo buscar cualquier rastro de esa informaci¨®n sensible en la decisi¨®n del primero, en una especie de juego del gato y el rat¨®n. Ambos algoritmos se entrenan con una nueva base de datos de 24 mil identidades que permite realizar m¨¢s de 100 billones de posibles iteraciones.

Al final de un proceso de aprendizaje que no lleva m¨¢s de dos horas, se consigue una inteligencia artificial en la que la informaci¨®n sensible ha sido eliminada del proceso de toma de decisi¨®n. Esta tecnolog¨ªa se puede aplicar m¨²ltiples campos como el ya mencionado reconocimiento facial, pero tambi¨¦n en algoritmos de an¨¢lisis autom¨¢tico de curriculum vitae, algoritmos de scoring crediticioo cualquier otro sistema de aprendizaje autom¨¢tico expuesto a sesgos humanos.

Para entender la dificultad de la tarea, hay que tener en cuenta que la informaci¨®n sensible se puede extraer de m¨²ltiples fuentes. Recientemente se ha publicado que el algoritmo de cr¨¦dito de Apple concede mayores cr¨¦ditos a hombres que mujeres incluso cuando ambos tienen ingresos similares. Apple se defiende argumentando que no utilizan el g¨¦nero como entrada en su sistema.

Pero esto no quiere decir que el algoritmo no pueda detectarlo a trav¨¦s de informaci¨®n tan sencilla como los establecimientos y h¨¢bitos de compra. Se hace necesario por tanto vigilar estos algoritmos no est¨¦n detectando la informaci¨®n sensible (g¨¦nero) y teni¨¦ndola en cuenta en su proceso de toma de decisi¨®n venga de donde venga.

Aythami Morales Moreno es miembro del Grupo de investigaci¨®n BiDA-Lab y profesor contratado doctor en el Departamento de Tecnolog¨ªa Electr¨®nica y de las Comunicaciones de la Universidad Aut¨®noma de Madrid