La galer¨ªa de los horrores de la inteligencia artificial

Cuando nos ponemos agoreros con la inteligencia artificial, solemos pensar en el futuro. En lo que se nos viene encima si no domamos bien a los algoritmos que queremos que tomen decisiones por nosotros. Sin embargo, las cosas ya se han puesto siniestras. As¨ª lo ve el investigador David Dao, parte del grupo DS3, dedicado al estudio y desarrollo de sistemas y servicios de datos en la Universidad Polit¨¦cnica de Z¨²rich (ETH Z¨²rich).

Seg¨²n Dao, "la inteligencia artificial en su estado actual es injusta, f¨¢cilmente susceptible a ataques y notoriamente dif¨ªcil de controlar". En este contexto, su principal preocupaci¨®n es la constante proliferaci¨®n de aplicaciones de esta tecnolog¨ªa fuera de los m¨¢rgenes de lo que podr¨ªa considerarse ¨¦tico.

Para poner de manifiesto este problema, Dao ha confeccionado -y contin¨²a actualizando- un directorio bautizado como Awful AI (inteligencia artificial espantosa). Esta lista es un retrato cada vez m¨¢s detallado de las injusticias que ya pueden perpetrar estos sistemas en la sociedad. "Espero que Awful AI pueda ser una plataforma para espolear el debate y el desarrollo de tecnolog¨ªas con las que contraatacar", sentencia el investigador. Repasamos algunas de las pesadillas orwellianas seleccionadas por Dao (y te recomendamos algunas lecturas sobre el tema).

• Discriminaci¨®n

1. ?Tienes cara de criminal?
   Seg¨²n dos investigadores de la universidad de China, podr¨ªas. Xiaolin Wu y Xi Zhang crearon una red neuronal capaz de identificar al 89,5% de una muestra de criminales y no criminales por sus rasgos faciales. Las implicaciones de un sistema as¨ª incendiaron medios y redes hasta el punto de que los investigadores actualizaron su estudio para defenderse. "Nuestro trabajo est¨¢ enfocado a la discusi¨®n acad¨¦mica, c¨®mo ha llegado a los medios es una sorpresa total para nosotros. Aunque estamos de acuerdo con nuestros cr¨ªticos en la necesidad e importancia de crear pol¨ªticas de investigaci¨®n en inteligencia artificial para el bien de la sociedad, estamos profundamente desconcertados por el modo en que se ha representado nuestro trabajo".
2. Un pol¨ªgrafo en tus viajes por Europa.?
   Para la Uni¨®n Europea, es un detector de mentiras que agilizar¨¢ el tr¨¢fico en las fronteras externas. Para Dao, una potencial fuente inagotable de falsos positivos que adem¨¢s ser¨¢ propensa a sesgos raciales. El proyecto, llamado iBorderCtrl cuenta con m¨¢s de 4 millones de euros de financiaci¨®n y estar¨¢ en desarrollo hasta agosto de este a?o.

• Manipulaci¨®n, desinformaci¨®n y fakes

1. Deep Fakes.
   Ya te hemos hablado de esta t¨¦cnica de s¨ªntesis de im¨¢genes que emplea redes neuronales para generar caras de personas reales o ficticias pero siempre muy cre¨ªbles. Tambi¨¦n te hemos contado c¨®mo podr¨ªa usarse para generar material pornogr¨¢fico falso. ?Te parece poco preocupante?
2. Ingenier¨ªa de la atenci¨®n.
   No es casualidad que cada vez te resulte m¨¢s dif¨ªcil despegarte de tus pasatiempos digitales. Est¨¢n dise?ados para atraparte y cada vez lo hacen mejor. "Desde las notificaciones de Facebook hasta los autoplays de Youtube [...]. Las empresas devoran nuestra psicolog¨ªa para su propio beneficio", se?ala Dao.

M¨¢s informaci¨®n

¡°Nuestro trabajo es evitar convertirnos en una sociedad como la de ¡®Minority Report¡±

Los algoritmos tienen prejuicios: ellos son inform¨¢ticos y ellas, amas de casa

• Vigilancia

1. Predicci¨®n de protestas.
   Las im¨¢genes satelitales y el an¨¢lisis de redes sociales ya est¨¢n al servicio del Pent¨¢gono en lo relativo a las previsiones de desobediencia civil. "Ya hay indicios de que estas tecnolog¨ªas se est¨¢n usando para localizar manifestaciones anti-Trump, grupos de izquierda y activistas de color", precisa el investigador.
2. Gran Hermano en todas partes.
   Dao pone los ejemplos de SenseTime y Megvi, dos tecnolog¨ªas de an¨¢lisis de v¨ªdeo que descritas as¨ª parecen inocuas, pero en realidad son potentes sistemas de reconocimiento facial que hasta ofrecen la posibilidad de centrar la vigilancia en objetivos concretos.

• Plataformas enga?osas y fraudes

1. Robots vende-humo.?
   En la ¨²ltima temporada brotan como setas robots capaces de comportamientos que hasta ahora solo hab¨ªamos visto en la ciencia ficci¨®n. ?Pero son tan avanzados como parecen? Dao pone el ejemplo de Sophia, la aut¨®mata que ha dado la vuelta al mundo gracias a Hanson Robotics. "Estas plataformas se est¨¢n usando para representar falsamente el estado actual de la inteligencia artificial", advierte.
2. La Fundaci¨®n Terrible.
   Tal es el nombre de la entidad que present¨® a Zach. Un sistema de inteligencia artificial de sospechoso origen que, aseguraban, era capaz de escribir informes m¨¦dicos mejor que los doctores de carne y hueso. La susodicha fundaci¨®n est¨¢ ahora en liquidaci¨®n, con un reguero de acusaciones de estafa por el camino y Zach en el olvido.

M¨¢s informaci¨®n

Siete trucos para pillar antes a una red neuronal que a un cojo

Usas el m¨®vil m¨¢s de lo que crees, y hay maneras de evitarlo

M¨¢s informaci¨®n

C¨¢maras, sensores, controles¡­ Un paseo por la nueva China

Gu¨ªa para hacerte invisible en la era de Orwell (sin pasar por Hogwarts)

M¨¢s informaci¨®n

Las tres estafas con criptomonedas m¨¢s sonadas de 2018

La inteligencia artificial es muy burra