No confiemos ciegamente en los algoritmos: son m¨¢s fr¨¢giles de lo que aparentan

Hace tiempo que la mirada cient¨ªfica ha dejado de ser la del naturalista que recorr¨ªa bosques y cordilleras en busca de nuevas especies y se ha encerrado en el laboratorio, obturando su experiencia sensible y asumiendo la sequedad de algoritmos, ondas de probabilidad y tablas estad¨ªsticas. Con el desarrollo tecnol¨®gico, nuestras ventanas se han ido reduciendo paulatinamente a pantallas, tanto en el trabajo como en el ocio. Y aunque la distop¨ªa tecnol¨®gica es tan antigua como el cine, las plataformas digitales siguen record¨¢ndonos que es posible enamorarse de un replicante, de la voz de una aplicaci¨®n o superar el abismo de la muerte subiendo la conciencia al ciberespacio. La convivencia con la m¨¢quina es ya inevitable y ha entrado de lleno en nuestras vidas. De ah¨ª que resulte imprescindible entender cabalmente el sentido del conocimiento mediante la inteligencia artificial y el an¨¢lisis de datos.

M¨¢s informaci¨®n

Los algoritmos buenos y tontos que mueven el mundo

El primer paso en esa direcci¨®n supone asumir que las ciencias son numerosas y variadas, como muchas y variadas son las culturas cient¨ªficas y sus m¨¦todos. Cada ciencia vive en su propio mito, en cierto sentido ciego pero eficaz. Un mito que siempre podr¨¢ inspirar a algunos y hacer partidarios. Los historiadores de la ciencia lo saben bien. Cada disciplina erige una narrativa y una racionalidad propias, un cuento que la comunidad se repite a s¨ª misma y hay tantas racionalidades como ciencias. Aunque las ciencias trabajen unas junto a otras, no cohabitan ni comparten techo o cimientos, pero tampoco se escandalizan ante las diferentes perspectivas de sus miradas. Existe un pacto no escrito que b¨¢sicamente consiste en no meterse en el terreno ajeno. Un acuerdo permite la micro-especializaci¨®n.

La divisi¨®n del trabajo cient¨ªfico, tan ¨²til para el capitalismo moderno, es p¨¦sima para el humanismo

Los cient¨ªficos sabemos poco de lo que ocurre en otros campos y, aunque son frecuentes los proyectos multidisciplinares, al final cada uno acaba haciendo su parte del trabajo y entiende poco de lo que hacen los dem¨¢s. La divisi¨®n del trabajo, tan ¨²til para el desarrollo del capitalismo moderno, supone un desastre para el humanismo. Esta situaci¨®n esconde un hecho fundamental: los presupuestos b¨¢sicos de una disciplina pueden ser un disparate en otra. Un ejemplo: considerar las variables de un sistema como dependientes o aisladas, decide tanto la metodolog¨ªa como la interpretaci¨®n de los resultados. En la microbiolog¨ªa y la ecolog¨ªa se supone que la dependencia entre las variables dota de potencia al sistema, ya se trate de competencia o cooperaci¨®n, de bacterias o animales. En la neurociencia siguen existiendo variables aisladas, y se atribuye a cada regi¨®n del cerebro una funci¨®n cognitiva diferente (una situaci¨®n que afortunadamente empieza a cambiar). En psicolog¨ªa las variables se han considerado tradicionalmente de un modo aislado y hablar de la interacci¨®n entre memoria y atenci¨®n, ser¨ªa una excentricidad.

En la literatura cient¨ªfica es frecuente que las revistas impongan las llamadas ¡°buenas pr¨¢cticas¡±, un modo de superar la imposibilidad de replicar estudios entre laboratorios. Para ello se utilizan rigurosos y potentes m¨¦todos de an¨¢lisis de datos que son espec¨ªficos de cada campo. El investigador, ante la presi¨®n de publicar y conseguir financiaci¨®n, acepta esas condiciones para evitar resistencias en la evaluaci¨®n de su trabajo. Es m¨¢s, para facilitar la ¡°buena pr¨¢ctica¡±, se crean programas de an¨¢lisis que funcionan como cajas negras y proporcionan la gr¨¢fica final. Hace pocos a?os un esc¨¢ndalo salpic¨® estos m¨¦todos, al detectar un error en uno de los algoritmos, que invalid¨® miles de art¨ªculos cient¨ªficos, aunque no fueron retirados de las publicaciones.

Con la invenci¨®n del c¨¢lculo infinitesimal e integral se desat¨® en Europa la fiebre del an¨¢lisis

Con la invenci¨®n del c¨¢lculo infinitesimal e integral se desat¨® en Europa (y luego en el resto del mundo) la fiebre del an¨¢lisis. B¨¢sicamente consist¨ªa en explicar lo complejo mediante lo simple. Este h¨¢bito no s¨®lo permiti¨® el dominio de lo cuantitativo, sino que hizo posible la construcci¨®n de la objetividad. De aquellos mimbres vienen estos cestos y el m¨¦todo cient¨ªfico consiste hoy en un conjunto de algoritmos elegidos por ciertas universidades. Su facilidad de uso y la velocidad de computaci¨®n multiplican el n¨²mero de art¨ªculos al a?o, haciendo imposible que nadie pueda estar al tanto de todos. El problema a?adido es que dichas cajas negras alejan al investigador de su propia investigaci¨®n. No sabe muy bien qu¨¦ hace y, sobre todo, propicia una confianza irresponsable en los algoritmos, como si ellos fueran el criterio de verdad. Cualquiera que haya programado algoritmos podr¨¢ reconocer su fragilidad. Se toman numerosas y arriesgadas decisiones, sobre los par¨¢metros a seleccionar y las variables en juego, sobre las relaciones que registrar¨¢ el sistema (que encubre la imposibilidad de medir una ausencia de relaci¨®n). En el interior del algoritmo habitan las dudas y prejuicios del programador, y lo que en principio podr¨ªa ser comprometido o sesgado, se hace pasar por descomprometido y neutral. El algoritmo lo ejecuta un procesador pero lo programa una persona.

La m¨¢quina enfr¨ªa sus pasiones, las neutraliza, y los resultados adquieren el aire de un an¨¢lisis desapasionado. A ello se a?aden otras cuestiones cruciales. Priman las cualidades primarias respecto a las secundarias (distinci¨®n ya de por s¨ª arbitraria), se tiende a asociar la correlaci¨®n con la causalidad, se impone linealidad y mecanicismo a lo que de hecho es din¨¢mico, y se extrema la precauci¨®n con la estad¨ªstica final ante datos inmanejablemente heterog¨¦neos o escasos por razones econ¨®micas y de tiempo. Pero no todo es negativo en este proceso. La inteligencia artificial permite recordar que las relaciones entre variables pueden ser m¨¢s complejas que una simple correlaci¨®n lineal. Que no se haya encontrado relaci¨®n no significa que no exista, sino que a d¨ªa de hoy no se puede estimar.

La objetividad es un acuerdo entre comunidades cient¨ªficas, pero no hay un ¨²nico mapa de la realidad

Hace pocos a?os, la idea de acabar con el cerebrocentrismo pon¨ªa nerviosos a los investigadores. La revista Nature public¨® en 2016 una pol¨¦mica portada donde se dec¨ªa: ¡°Las enfermedades complejas se complican¡±, haciendo alusi¨®n a la relaci¨®n de otras v¨ªsceras en alteraciones atribuidas de forma exclusiva a la degeneraci¨®n neuronal. Con ello se reconoc¨ªa la dificultad de localizar la enfermedad y se le quitaba el disfraz al reduccionismo que dominaba las ciencias cognitivas. Pero los investigadores recib¨ªan dicha incertidumbre con temor, sinti¨¦ndose hu¨¦rfanos del esquema que tanto hab¨ªa permitido avanzar la disciplina. Ahora que las publicaciones han alcanzado una masa cr¨ªtica suficiente, y se han establecido los m¨¦todos con los que debemos proceder en los laboratorios ante el nuevo paradigma, se ha aceptado el desaf¨ªo. Ahora se admite que las bacterias del intestino influyen en nuestro estado de ¨¢nimo, que la respiraci¨®n modula nuestras emociones o que el coraz¨®n es una puerta a la percepci¨®n. El siguiente paso ser¨¢ considerar la mente como uno m¨¢s entre los sentidos.

La construcci¨®n de la objetividad es un proceso de car¨¢cter convencional, un acuerdo entre diferentes comunidades cient¨ªficas. En ese acuerdo se discrimina qu¨¦ es un laboratorio y qu¨¦ no lo es, y se eligen las ventanas (teor¨ªas) a trav¨¦s de las cuales observar la realidad. Pero no hay un ¨²nico mapa de la realidad. Si lo hubiera, ser¨ªa como el que imagin¨® Borges y con el que so?aron los cart¨®grafos chinos. Un mapa tan extenso y detallado que ocupaba todo el territorio y que era imposible manejar. Hoy d¨ªa podemos encontrar materialistas ac¨¦rrimos en la biolog¨ªa molecular y subjetivistas radicales en la mec¨¢nica cu¨¢ntica. Unificarlos en un todo coherente es m¨¢s un deseo de los educadores que una posibilidad real. Siempre que se plantea una querella entre dos narrativas, ya sea la m¨ªtica o la cient¨ªfica, se yerra. Se trata de un falso dilema.

Concluimos. El conocimiento de las otras ciencias no deber¨ªa llevar a un intento de unificaci¨®n ni a la ambici¨®n de formular leyes universales. Conocer las otras ciencias es aceptar pluralidad y contradicciones. ¡°Si todas las cosas fueran iguales, no existir¨ªan todas las cosas¡± (Non Essent amnia, si Essent aequalia). No existe una visi¨®n cient¨ªfica del mundo, pero eso no es una fatalidad, al contrario, deber¨ªa ser motivo de celebraci¨®n. La ciencia no es una empresa uniforme, son muchas y heterog¨¦neas y hay mucho que aprender en ellas, pero tambi¨¦n en las humanidades, los mitos y las tradiciones antiguas que han sobrevivido a las embestidas de la globalizaci¨®n. El algoritmo trabaja en la uniformizaci¨®n del pensamiento y ese es el gran peligro. La pregunta es si es posible combinar todos esos enfoques.

Juan Arnau es fil¨®sofo y astr¨®nomo. Su ¨²ltimos libro es ¡®Upanishads¡¯ (Ed. Atalanta). Nazareth Castellanos es F¨ªsica te¨®rica y doctora en Medicina.??