Algoritmo: ¨¢ngel o demonio

En una reciente visita al Museo de la Di¨¢spora en Tel Aviv tuve oportunidad de asistir a un intercambio de opiniones sobre qui¨¦n ha sido el jud¨ªo que m¨¢s ha influido en la historia de la econom¨ªa mundial. Sin duda Karl Marx, espet¨® al o¨ªr la pregunta una joven intelectual intelectual progresista, seguidora por lo dem¨¢s de la causa del sionismo, antes de verse sorprendida por la anotaci¨®n de la responsable de lanzar la interrogante:

?¡ªEl que m¨¢s ha influido se llama Mark Zuckerberg.

Me sorprendi¨® la naturalidad con que esta observaci¨®n nos adentraba en la dial¨¦ctica acerca de la conformaci¨®n de la nueva cultura y la elaboraci¨®n del conocimiento universal como consecuencia de haber instalado la computaci¨®n digital en el coraz¨®n de nuestras vidas. Dos libros de reciente aparici¨®n, y de g¨¦nesis inevitablemente norteamericana, abundan en este debate desde perspectivas diferentes y, en cierta medida, opuestas. Se trata por un lado de la obra de Cathy O¡¯Neil Armas de destrucci¨®n matem¨¢tica, sobre la que ya inform¨® hace unos meses el suplemento Materia de EL PA?S, y del otro, del ensayo de Ed Finn titulado La b¨²squeda del algoritmo.

O¡¯Neil es una experta matem¨¢tica que trabaj¨® en la banca de inversi¨®n como especialista en an¨¢lisis financiero antes de incorporarse al movimiento Occupy Wall Street. Ha terminado por denunciar el mundo de alienaci¨®n e injusticia que en su opini¨®n est¨¢ produciendo el uso masivo de los llamados big data en la toma de decisiones que afectan a las personas y a las comunidades que las integran. Ed Finn, por su parte, es un profesor de la Universidad de Arizona que se esfuerza en analizar el impacto creativo de la ingenier¨ªa computacional en la cultura de nuestro tiempo; entendiendo por cultura desde las recomendaciones de Netflix a sus usuarios hasta la implementaci¨®n de las criptomonedas que desaf¨ªan a los sistemas de pago garantizados por los bancos centrales.

El libro de O¡¯Neil es una descripci¨®n pormenorizada de los efectos de la aplicaci¨®n de patrones y perfiles informatizados a la hora de seleccionar candidatos a un empleo, identificar potenciales delincuentes o terroristas, evaluar el profesorado de una escuela o conceder una hipoteca. Todas estas decisiones son tomadas de manera cada vez m¨¢s compulsiva y acelerada por las m¨¢quinas, mediante algoritmos sofisticados y en funci¨®n de nuestros datos personales, recolectados gracias al uso que hacemos de los tel¨¦fonos inteligentes. La opini¨®n de la autora sobre la fiabilidad del conocimiento supuestamente cient¨ªfico u objetivo que dichos algoritmos generan es muy cr¨ªtica. Ella misma confiesa que no se encuentra entre las filas de los predicadores de las virtudes del big data y se alinea claramente en la defensa de las v¨ªctimas del lado oscuro del sistema.

Frente al pesimismo beligerante de O¡¯Neil se alza el voluntarismo ¨¦tico de Finn. Claramente se muestra partidario del algoritmo

Frente al pesimismo beligerante de O¡¯Neil se alza el voluntarismo ¨¦tico de Finn. Aunque asegura que su obra no supone una teor¨ªa en favor o en contra del algoritmo, claramente se muestra partidario de ¨¦l. Lo considera arraigado ¡°no solo a la l¨®gica matem¨¢tica, sino a las tradiciones filos¨®ficas de la cibern¨¦tica, la consciencia y la magia del lenguaje de los s¨ªmbolos¡±. Seg¨²n ¨¦l, lejos de construir un arsenal de armas de destrucci¨®n matem¨¢tica, los big data y el coraz¨®n del sistema que los anima, el algoritmo, contribuyen a la b¨²squeda del conocimiento universal que ¡°refleja y nutre nuestro eterno apetito por el autoconocimiento y la conciencia colectiva¡±. Se lo proponga o no el autor, la obra de Finn es la defensa de la civilizaci¨®n digital como un nuevo humanismo, de acuerdo con la suposici¨®n de varios investigadores de que en realidad los procesos culturales tradicionales responden a la misma l¨®gica de los sistemas computacionales, por lo que son duplicables matem¨¢ticamente. Aplicando dicho criterio no tardaremos en ver c¨®mo los ordenadores son capaces de simular con precisi¨®n los resultados de unas pr¨®ximas elecciones generales o el futuro de las acciones del mercado. De modo que acabaremos por preguntarnos si las elecciones mismas, o las transacciones en los corros, son en realidad necesarias.

Pese a situarse en posiciones morales completamente opuestas, las obras que comentamos coinciden en abundantes ejemplos respecto al uso de las posibilidades predictivas del manejo de los big data. O¡¯Neil advierte del empleo del reconocimiento facial, de manera masiva, por las fuerzas de seguridad de varias ciudades americanas para desarrollar programas predictivos de actos de delincuencia. La polic¨ªa de Chicago gan¨® un concurso del Instituto Nacional de Justicia con un proyecto basado en la teor¨ªa de que la propagaci¨®n del crimen sigue un determinado patr¨®n, igual que la de una epidemia. De modo que se podr¨ªa predecir computacionalmente y, por tanto, evitar. No estamos muy lejos de la ficci¨®n de Minority Report, aquella pel¨ªcula en la que la previsi¨®n de los delitos permit¨ªa detener a los probables criminales antes de que los cometieran. Ya sucede algo parecido en la concesi¨®n de visados con arreglo a la aplicaci¨®n de perfiles inform¨¢ticos a quienes los solicitan. Finn va incluso m¨¢s all¨¢ al explicar c¨®mo Netflix utiliza las capacidades de los algoritmos para modelar el proceso creativo. El problema mayor se suscitar¨¢ cuando dichos algoritmos ¡°pasen de modelar a construir estructuras culturales¡±. En ese momento la creaci¨®n de valor y su atribuci¨®n a los respectivos procesos tendr¨¢ las mismas caracter¨ªsticas en la emisi¨®n de criptomonedas que en los intercambios culturales, incluido el period¨ªstico.

Para quienes se interesen en los efectos, destructivos o creativos, de la invasi¨®n de los algoritmos en nuestras vidas, ambas obras suponen un caudal de informaci¨®n y an¨¢lisis sustancial. La lectura de Finn es m¨¢s optimista, pero tambi¨¦n m¨¢s compleja y oscura que la de O¡¯Neil, quiz¨¢ porque tambi¨¦n lo es su escritura, o al menos la traducci¨®n de la misma. Por ¨²ltimo, si el lector quiere completar su visi¨®n de las amenazas y oportunidades concretas que la convergencia compu?tacional supone para nuestro entorno, puede acogerse a la lectura del libro The Four, de Scott Galloway, sobre la generaci¨®n de oligopolios mundiales basados en la acumulaci¨®n de big data por parte de unos pocos se?ores due?os del algoritmo, ¨¢ngel o demonio de nuestra civilizaci¨®n. Quiz¨¢ concluya entonces que efectivamente Mark Zuckerberg, y no Karl Marx, es el jud¨ªo m¨¢s influyente en la historia de la econom¨ªa mundial. Por mucho que ¨¦l mismo no acabe de enterarse.

Armas de destrucci¨®n matem¨¢tica. Cathy O¡¯Neil. Traducci¨®n de Violeta Arranz. Capit¨¢n Swing, 2018. 296 p¨¢ginas. 19 euros

La b¨²squeda del algoritmo. Ed Finn. Traducci¨®n de H¨¦ctor Castells. Alpha Decay, 2018. 371 p¨¢ginas. 26,90 euros