La inteligencia artificial pide un puesto en la mesa

Hace unas semanas aparecieron noticias preocupantes en todos los medios de comunicaci¨®n sobre posibles influencias deshonestas en el refer¨¦ndum sobre el Brexit y en la elecci¨®n de Donald Trump como presidente de los Estados Unidos. Una empresa, Cambridge Analytica (CA), habr¨ªa usado datos privados de Facebook para clasificar a los electores en grupos con especial sensibilidad hacia cierto tipo de noticias falsas y sesgadas. Una campa?a personalizada usando este conocimiento ser¨ªa la responsable de decantar estas votaciones.

Todos pudimos leer a intelectuales y analistas pol¨ªticos preocupados por la vulnerabilidad de los procesos democr¨¢ticos frente a la fuerza despiadada de los ¡°algoritmos¡±. Se daba por supuesto que cualquier cosa es posible usando datos personales. Indirectamente se estaba entronizando una nueva religi¨®n. Los herejes estar¨ªan condenados por ingenuos o por desconocer el poder de la Inteligencia Artificial (IA).

M¨¢s informaci¨®n

Inteligencia artificial en las ciudades: de planificar rutas, a conocer los sentimientos en un barrio

De viajar a las estrellas a la inteligencia artificial: 13 grandes frases de Pedro Duque, nuevo ministro de Ciencia

Cuando las m¨¢quinas toman el mando

Pero, ?qu¨¦ hay de verdad en todo esto? Los detalles no podemos saberlos porque el esc¨¢ndalo ha tomado la forma de una guerra de informaciones cruzadas. Y, como escribi¨® Esquilo hace unos 2.500 a?os, ¡°la verdad es la primera v¨ªctima de una guerra¡±. Sin embargo creemos que hay algunos hechos que deben tenerse en cuenta.

El tratamiento que habr¨ªa hecho CA se bas¨® en el trabajo cient¨ªfico publicado en 2015 en la prestigiosa revista PNAS titulado ¡°Computer-based personality judgments are more accurate than those made by humans¡±. En este art¨ªculo se describe un estudio an¨¢logo con datos de Facebook. Lo publicado est¨¢ lejos de ser ¨²til m¨¢s all¨¢ del mundo acad¨¦mico. Pero es cierto que hay otros resultados que s¨ª est¨¢n siendo aprovechables desde el punto de visto econ¨®mico. Basta ver qu¨¦ empresas ocupan los primeros puestos del mundo en valor burs¨¢til y d¨®nde estaban hace solo 10 a?os.

Daremos un ejemplo significativo. Cuando se trataba de averiguar la ¡°actitud pol¨ªtica¡± de los usuarios de Facebook, se pretend¨ªa clasificarlos en liberales o conservadores. La precisi¨®n del modelo aprendido por el algoritmo se midi¨® usando el ?rea Bajo la Curva (en ingl¨¦s, AUC). Esta es una medida que representa la proporci¨®n de pares de personas (una liberal y la otra conservadora) que son clasificados correctamente; es decir, 0.50 se corresponder¨ªa con una clasificaci¨®n al azar y 1.00 ser¨ªa el acierto pleno. El resultado obtenido fue 0.63; mejor que el azar, pero bastante lejos de la perfecci¨®n. Por otra parte, cuando se buscaba determinar los rasgos de la personalidad, el acierto se midi¨® mediante el llamado coeficiente de correlaci¨®n que, elevado al cuadrado, da un valor entre 0 (azar) y 1 (perfecci¨®n). El algoritmo presentado en PNAS solo alcanz¨® un modest¨ªsimo 0.33.

Las personas que participaban en los experimentos que permit¨ªan obtener informaci¨®n sobre sus?likes en Facebook, sin duda lo hicieron de buena fe, pero desconoc¨ªan las repercusiones.

La mayor parte de quien opin¨® sobre esta cuesti¨®n no ley¨® el art¨ªculo de PNAS. Tampoco pregunt¨® a quienes estaban en condiciones de explicarlo. En definitiva, hay un desconocimiento general sobre la IA, que hoy se considera sin¨®nimo de Big Data o incluso de ¡°algoritmo¡±.

La conclusi¨®n que podemos sacar de esta situaci¨®n es que si las consecuencias del uso de la lA son importantes en nuestras vidas, deber¨ªamos formar a nuestros hijos para que puedan tener una opini¨®n cr¨ªtica. Por otra parte, los poderes p¨²blicos deber¨ªan velar por la seguridad de sus ciudadanos. La entrada en vigor el 25 de mayo de la ley europea GDPR (General Data Protection Regulation) es una oportunidad para llevar esto a cabo.

En cualquier caso, tanto las oportunidades como los desaf¨ªos en materia de IA y uso de datos personales requerir¨¢n de empresas, gobiernos y sociedades que entiendan de datos, de algoritmos, de su alcance y de sus limitaciones, por lo que en los pr¨®ximos a?os ser¨¢ muy importante la ¡®educaci¨®n en IA¡¯ a todos los niveles.

Tambi¨¦n deber¨ªamos pedir a nuestros opinadores que incluyan a la inform¨¢tica entre los conocimientos que se atribuyen a una persona culta. La IA, la Inform¨¢tica, debe tener ya un lugar en la mesa.

Antonio Bahamonde es catedr¨¢tico de la Universidad de Oviedo en Gij¨®n y presidente de la Sociedad Cient¨ªfica Inform¨¢tica de Espa?a (SCIE)

Amparo Alonso es catedr¨¢tica de la Universidad de La Coru?a

Cr¨®nicas del Intangible es un espacio de divulgaci¨®n sobre las ciencias de la computaci¨®n, coordinado por la sociedad acad¨¦mica SISTEDES (Sociedad de Ingenier¨ªa de Software y de Tecnolog¨ªas de Desarrollo de Software). El intangible es la parte no material de los sistemas inform¨¢ticos (es decir, elsoftware), y aqu¨ª se relatan su historia y su devenir. Los autores son profesores de las universidades espa?olas, coordinados por Ricardo Pe?a Mar¨ª (catedr¨¢tico de la Universidad Complutense de Madrid) y Macario Polo Usaola (profesor titular de la Universidad de Castilla-La Mancha).