La falacia del algoritmo omnipotente y otras ideas equivocadas que tenemos sobre estos sistemas

Cuando Sun Tzu remarc¨® en El arte de la guerra la necesidad conocer bien al enemigo de uno, no hab¨ªa algoritmos computacionales por los que preocuparse. Dos milenios despu¨¦s los hemos visto asignar mayores posibilidades de reincidir los presos de colectivos minoritarios, despedir a 150 personas en un segundo y e incluso participar en conflictos b¨¦licos. Y no los conocemos. Un estudio realizado por investigadores la Universidad de ?msterdam con una muestra de 2.106 personas ha encontrado que m¨¢s de la mitad de los encuestados acepta que los algoritmos son independientes de la actividad humana, no tienen sesgos, tienen el mismo nivel de razonamiento cr¨ªtico e inteligencia que los humanos, y nos van a reemplazar. Un tampoco desde?able 43% opina que estos sistemas pueden resolver ¡°todos los problemas de la sociedad¡±.

¡°Quer¨ªamos saber si la gente tiene una idea correcta de lo que son los algoritmos y lo que hacen, porque topan con ellos cada d¨ªa: en las redes sociales, en sus tel¨¦fonos, cuando ven la tele...¡±, explica Brahim Zarouali, investigador centrado en el estudio de las comunicaciones y tecnolog¨ªas persuasivas. Lo que no esperaban era encontrarse tal nivel de desconocimiento. ¡°Esto nos pareci¨® realmente alarmante¡±, asegura. Adem¨¢s, el fen¨®meno es m¨¢s pronunciado en ciertos grupos demogr¨¢ficos, con mayor prevalencia de estas ideas equivocadas entre la gente mayor, aquellos con niveles de educaci¨®n inferiores y las mujeres.

La investigaci¨®n se centra en los algoritmos que intervienen en las plataformas de consumo de informaci¨®n y que pueden personalizar y adaptar la informaci¨®n que se muestra a cada persona, pero el docente no descarta que las mismas confusiones que han identificado en este caso se extiendan a otras aplicaciones de los mismos sistemas.

?Cu¨¢les es el coste de estas lagunas en cuanto al conocimiento de unos sistemas cada vez m¨¢s presentes en nuestras vidas? ¡°Nuestro argumento es que podr¨ªan incrementar las brechas digitales en nuestra sociedad. Es muy importante que todos tengamos las mismas habilidades y conocimientos para beneficiarnos de la tecnolog¨ªa y los algoritmos¡±, razona Zarouali.

Ojos que no ven

Zarouali y su equipo sit¨²an el origen del problema en la naturaleza intangible de estos sistemas, que operan en segundo plano, sin que nadie vea sus entresijos y, en muchos casos, como cajas negras cuyas decisiones no pueden ser explicadas. ¡°Esto complica que la poblaci¨®n general desarrolle una idea correcta de lo que pueden hacer los algoritmos y c¨®mo funcionan¡±, resume el investigador.

?Qu¨¦ debemos saber sobre ellos? El estudio toma como punto de partida algunas ideas b¨¢sicas. Si atendemos a la definici¨®n de Tarleton Gillespie, los algoritmos pueden retratarse como procedimientos codificados para transformar grandes cantidades de datos de entrada en el resultado deseado a trav¨¦s de c¨¢lculos espec¨ªficos. Una versi¨®n resumida, y m¨¢s intencional de esta descripci¨®n encierran las palabras de Cathy O¡¯Neall, ¡°los algoritmos son opiniones encerradas en matem¨¢ticas¡±.

Para los investigadores tambi¨¦n es importante tener en cuenta el contexto en el que suelen operar estos sistemas, que se han convertido en partes fundamentales de la ventaja competitiva de muchas empresas tecnol¨®gicas. ¡°Esto explica por qu¨¦ muchas compa?¨ªas son reacias a exponer sus c¨®digos algor¨ªtmicos al mundo exterior¡±, se?alan. ¡°Los algoritmos pueden no solo mostrar los sesgos de quienes los dise?aron y los manejan, sino tambi¨¦n los valores y preferencias de las compa?¨ªas que los ofrecen¡±. En cuanto a su capacidad para equiparar nuestra inteligencia, reemplazarnos o resolver cualquier problema, la realidad es que sus habilidades est¨¢n, al menos por ahora, limitadas al muy eficiente desempe?o de tareas concretas.

La alfabetizaci¨®n algor¨ªtmica, explica Zarouali, es clave para que podamos tomar un papel activo en el escrutinio de estos sistemas y resistirnos al juicio de los que nos resultan problem¨¢ticos o beneficiarnos de los servicios de aquellos que vemos alineados con nuestros intereses. No en vano, pese a lo alarmante de los da?os que pueden causar en su papel de enemigos, estas herramientas tambi¨¦n pueden servirnos para predecir un ictus con dos a?os de antelaci¨®n, recuperar obras de arte que se cre¨ªan perdidas o minimizar el riesgo de contagio de la covid-19. ¡°Es importante tener una ciudadan¨ªa digital cr¨ªtica en todas las capas de la sociedad¡±, sentencia el docente.

Los investigadores insisten en que la persistencia de estas ideas equivocadas puede dejar ver sus efectos de dos maneras: por un lado, el exceso de celo puede empujarnos a rechazarlos injustificadamente sobre la base de una visi¨®n dist¨®pica del futuro; por otro la confianza desproporcionada en ellos puede contribuir a reforzar estereotipos y desigualdades, y a la difusi¨®n de contenidos manipulados como videos falsos hiperrealistas (deepfakes). ¡°La principal soluci¨®n es la educaci¨®n para la alfabetizaci¨®n digital. En estas iniciativas es importante que se le ense?e a la gente qu¨¦ son los algoritmos y que se les ofrezcan estrategias de protecci¨®n para enfrentar sus consecuencias da?inas. Del mismo modo, se les deber¨ªa empoderar para que puedan tambi¨¦n puedan beneficiarse de ellos¡±.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.