Un algoritmo ficticio basta para influir en decisiones como a qui¨¦n votar o con qui¨¦n salir

Pongamos que le proponen utilizar un algoritmo para determinar qu¨¦ pol¨ªtico se ajusta m¨¢s a sus preferencias. Y, que acepta la prueba, claro. La herramienta le plantea entonces unas cuantas preguntas propias de un test de personalidad, le ofrece despu¨¦s un resultado en el que se ve razonablemente retratado, y le indica cu¨¢les son los candidatos m¨¢s apropiados en funci¨®n de la informaci¨®n que ha recabado. ?Seguir¨ªa su consejo? De acuerdo con los experimentos conducidos por Helena Matute y Uju¨¦ Agudo, investigadoras de la Universidad de Deusto, para el estudio que acaban de publicar, no solo aceptar¨ªamos sus recomendaciones, sino que lo har¨ªamos sin poner en cuesti¨®n la fiabilidad de ese sistema cuyos entresijos desconocemos y que, en este caso, ni siquiera existe.

Las preguntas eran de pega. La evaluaci¨®n, una respuesta gen¨¦rica para todos los participantes ¡ªque, por cierto, valoraron el sistema como ¡°moderada o altamente preciso¡±¡ª y los c¨¢lculos del algoritmo una asignaci¨®n al azar. El objetivo de las investigadoras, que aplicaron una serie de variaciones de este experimento a la elecci¨®n de candidatos pol¨ªticos y contactos en una aplicaci¨®n de citas, era comprobar si un algoritmo puede influir en las preferencias de la gente a trav¨¦s de persuasi¨®n expl¨ªcita o encubierta.

En el contexto de las aplicaciones de citas, el m¨¦todo m¨¢s efectivo fue el encubierto, donde no se indicaba al usuario cu¨¢l es el usuario recomendado, sino que se le mostraba m¨¢s veces. Al aumentar la exposici¨®n, los participantes tend¨ªan a elegir a los m¨¢s vistos, movidos por un mayor sentimiento de familiaridad. Las investigadoras explican que esta diferencia podr¨ªa estar relacionada con la preferencia de consejo humano en entornos subjetivos, como con qui¨¦n salir, mientras que optamos por consejo algor¨ªtmico en decisiones racionales como a qui¨¦n votar. Con todo, Matute califica la variaci¨®n por contextos como algo ¡°anecd¨®tico¡± en comparaci¨®n con la importancia que tiene el mero hecho de que exista esa influencia: ¡°Me parece muy preocupante que solo por creer que es una inteligencia artificial quien te est¨¢ recomendando, t¨² ya te f¨ªas. Estamos preguntando al or¨¢culo, como en la antig¨¹edad¡±.

?Por qu¨¦ basta un algoritmo ficticio para que caigamos en la trampa? ¡°Hay gente a la que ese tipo de descripciones vagas de personalidad le sirven para decir qu¨¦ bien funciona el hor¨®scopo. Es la mente humana, que es muy vulnerable. Estamos muy expuestos a creernos determinadas cosas¡±, razona Matute. En cuanto a que nos parezca razonable que un algoritmo pueda, con unas pocas preguntas, determinar a qui¨¦n debemos votar ambas investigadoras coinciden en que estamos cada vez m¨¢s habituados a aceptar ciegamente todo tipo de recomendaciones. ¡°Estamos repitiendo tanto eso de que los algoritmos nos conocen mejor que nosotros mismos que al final nos lo vamos a creer. Pero una cosa es que nos conozcan y otra que lo que nos recomiendan sea lo mejor para nosotros¡±, se?ala Agudo. ¡°Su objetivo no es ese. Es que pases el mayor tiempo posible en sus plataformas. El usuario tiene que tener en cuenta eso, porque nos parece que la decisi¨®n es libre, pero est¨¢ mediada por la propia recomendaci¨®n¡±.

Adem¨¢s la efectividad del algoritmo ficticio sugiere que un sistema m¨¢s sofisticado como aquellos con los que interactuamos cada d¨ªa en buscadores, redes sociales y plataformas de streaming, entre otros, tienen el potencial para conseguir niveles de influencia mucho mayores. Un ejemplo es el alcance que podr¨ªa tener el algoritmo de Facebook en su nueva aplicaci¨®n para parejas. ¡°Nosotras hemos hecho unos experimentos controlados. Las grandes plataformas que pueden, de forma continuada, pulir ese algoritmo y muchas veces ni nos enterar¨ªamos de que lo est¨¢n haciendo¡±, comenta Agudo.

Pol¨ªticos reales y elecciones reales

Estas desigualdades entre la investigaci¨®n que puede realizar una instituci¨®n acad¨¦mica y las que se conducen de forma privada y muchas veces opaca dentro de estas empresas van m¨¢s all¨¢ del n¨²mero de sujetos e incluso de las tecnolog¨ªas disponibles. ¡°Pueden hacer mucha m¨¢s investigaci¨®n que nosotros no solo porque tienen acceso a m¨¢s gente, sino porque encima pasan de la ¨¦tica¡±, subraya Matute. ¡°Nosotros hemos tenido que hacerlo todo con cosas ficticias. Ellos lo hacen con pol¨ªticos reales en elecciones reales¡±. La investigadora se muestra especialmente cr¨ªtica con los laboratorios y juntas de ¨¦tica que incorporan compa?¨ªas como Google. ¡°Para m¨ª son un horror. Encima cuando hay alguna persona que se lo plantea en serio, se la quitan de en medio. Es absurdo. No se puede dejar el debate ¨¦tico de las tecnol¨®gicas a las tecnol¨®gicas¡±.

En este sentido, las investigadoras conf¨ªan en que su trabajo, que conlleva tambi¨¦n la publicaci¨®n de los brutos los datos recabados, contribuya a ampliar la investigaci¨®n acad¨¦mica y p¨²blicamente accesible sobre estas materias. ¡°Desde la academia se est¨¢ abriendo todo cada vez m¨¢s. Cualquiera puede analizar tus experimentos, replicarlos, evaluar tus hip¨®tesis... T¨² ahora quieres comprobar si el algoritmo de Netflix est¨¢ dando m¨¢s peso a unas u otras variables y no tienes manera de saberlo¡°, comenta Agudo.

En cuanto al modo en que se presentan estas ya ubicuas recomendaciones, Matute se?ala que son preferibles las que se presentan de forma expl¨ªcita, puesto que por lo menos dan al usuario concienciado la posibilidad de frenarlas. ¡°Pero muchas veces no tomar esa decisi¨®n que viene sugerida implica tanto esfuerzo que hay un doble empuj¨®n: te la recomiendo, pero es que adem¨¢s te pongo dif¨ªcil que hagas otra cosa¡±, matiza Agudo.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter.