El ojo que vigila tus movimientos

Los aficionados al cine o la literatura dist¨®pica sabemos lo mucho que la inteligencia artificial (IA) puede hacer por nosotros, pero tambi¨¦n lo mucho que otros pueden hacer con ella contra nosotros. La IA es parte esencial de la econom¨ªa de datos, cuyo poder se nutre de la huella que vamos dejando al movernos, ya sea en el espacio f¨ªsico o navegando por internet. Sin datos no hay IA. Y cuando haya desplegado todo su potencial con la computaci¨®n cu¨¢ntica, cambiar¨¢ nuestras vidas de un modo que ahora ni siquiera podemos imaginar. Y tanto puede ser para bien como para mal. Por eso es un alivio saber que la Comisi¨®n Europea quiere conjurar los riesgos con una regulaci¨®n que de momento prohibir¨¢ algunas de sus aplicaciones m¨¢s inquietantes, como la vigilancia intrusiva o los sistemas de puntuaci¨®n social.

La propuesta legislativa presentada esta semana proh¨ªbe el uso de sistemas de vigilancia biom¨¦trica remota en tiempo real y en espacios p¨²blicos salvo en casos excepcionales (una amenaza terrorista) y siempre bajo control judicial. El uso de t¨¦cnicas de reconocimiento facial es habitual ya en China, que aplica un programa estatal denominado Sky Net con millones de c¨¢maras instaladas en todo el pa¨ªs y un programa centralizado que permite determinar en cuesti¨®n de segundos la identidad de una persona que haya pasado por una de ellas. En Europa, estos programas estar¨¢n prohibidos. Sus peligros son evidentes: en una deriva autoritaria, este tipo de vigilancia intrusiva podr¨ªa convertirse en una herramienta de control social, pero tambi¨¦n puede inducir a errores graves de identificaci¨®n y amplificar prejuicios raciales o de g¨¦nero. Un estudio de Joy Buolamwini en 2018 encontr¨® que el porcentaje de errores era muy superior en mujeres negras que en hombres blancos. En manos de determinadas patrullas policiales norteamericanas o tailandesas, que disparan antes de preguntar, un error en la forma de identificar a un sospechoso podr¨ªa tener consecuencias fatales.

Pero los peligros de estas t¨¦cnicas van m¨¢s all¨¢ de la amenaza de un Gran Hermano vigilante y controlador. Incluso en condiciones de asentimiento social pueden ser terriblemente perturbadoras. Por eso el reglamento sobre IA que propone la Comisi¨®n Europea proh¨ªbe tambi¨¦n la utilizaci¨®n de software de puntuaci¨®n social (social scoring). Este tipo de programas combinan las t¨¦cnicas de reconocimiento facial con un sistema de premios y castigos destinado a promover determinadas conductas. Son programas que punt¨²an la credibilidad o la reputaci¨®n de una persona seg¨²n unos baremos que se obtienen a partir de los datos que genera su comportamiento. El cap¨ªtulo titulado Nosedive (Ca¨ªda en picado) de la serie brit¨¢nica Black Mirror muestra las terribles consecuencias de un sistema en el que cada persona punt¨²a y es puntuado en cada una de sus interacciones sociales, y de cuya calificaci¨®n depende poder ascender en el trabajo, poder tener una vivienda mejor o acceder a determinados servicios. La actual obsesi¨®n por los like y el recuento de seguidores llevados al paroxismo. Lo que se muestra en Black Mirror no est¨¢ ya tan lejos: la ciudad china de Shangh¨¢i aplica un sistema de puntuaci¨®n social con premios y castigos como refuerzo de su programa de gesti¨®n inteligente de los residuos urbanos.