Eric Sadin: ¡°La pandemia mostr¨® que hacen falta m¨¢s material y camas que inteligencia artificial¡±

Una mujer se somete a una entrevista de trabajo bajo un formato curioso. Tiene que seguir las instrucciones que le dicta la plataforma Pymetrics desde su tel¨¦fono: tocar la pantalla cuando aparezca un punto rojo, cantar una melod¨ªa o deletrear sin tropezar el alfabeto. Falta algo: ver y hablar con una persona. La entrevista se interrumpe y no ha o¨ªdo ni visto a nadie. Solo al ping¨¹ino animado que le hac¨ªa las preguntas. Poco despu¨¦s, recibe una notificaci¨®n en su m¨®vil: no pasa a la siguiente fase.

Este episodio sirve al escritor y fil¨®sofo Eric Sadin (Par¨ªs, 1973) para poner en contexto al lector en su nueva obra La inteligencia artificial o el desaf¨ªo del siglo. Anatom¨ªa de un anti humanismo radical (Caja Negra, 2020). Una reflexi¨®n sobre la sociedad que se avecina y sobre lo que est¨¢ en juego en un mundo invadido por una tecnolog¨ªa en constante progreso que se dirige, de cabeza, a la digitalizaci¨®n de las actividades, los gestos y las emociones del ser humano o, en otras palabras, de la vida. Al acabar la lectura de su obra ¨Dy de algunos de sus ensayos anteriores, como La humanidad aumentada o La siliconizaci¨®n del mundo¨D el panorama que se dibuja en la mente del lector es inquietante: el ser humano pierde su poder de decisi¨®n y opini¨®n y se somete al ¡°saber absoluto¡± que le facilita la m¨¢quina en un tiempo r¨¦cord.

Sadin responde a EL PA?S por videoconferencia desde Par¨ªs. Antes de nada, contesta una pregunta b¨¢sica, pero de la cual, seg¨²n opina, poca gente sabe la respuesta: ?qu¨¦ es la inteligencia artificial (IA)? ¡°Todo el mundo ha o¨ªdo hablar de la IA, pero nadie sabe lo que es realmente y a¨²n menos sus consecuencias. Todo es tan precipitado que nos nos paramos a pensar en ellas. Lo damos todo por hecho, como si fuese el curso normal de las cosas, pero es un grave error. No nos hacemos las buenas preguntas¡±, opina.

Hemos pasado de la era del acceso a la del exceso

La Real Academia Espa?ola (RAE) define la IA como una ¡°disciplina cient¨ªfica que se ocupa de crear programas inform¨¢ticos que ejecutan operaciones comparables a las que realiza la mente humana, como el aprendizaje o el razonamiento l¨®gico¡±. Sin embargo, Sadin a?ade que ¡°estos sistemas constituyen un ¨®rgano capaz de valorar la realidad de una manera m¨¢s fiable que nosotros mismos y revelarnos dimensiones, hasta ahora escondidas, de nuestra conciencia¡±. ¡°Es muy perturbadora su capacidad para enunciar la verdad basada en ecuaciones frente a las cuales el ser humano no puede decir nada¡±, asegura.

La din¨¢mica que ha emprendido el planeta hacia la mayor optimizaci¨®n posible, la perfecci¨®n y la automatizaci¨®n de la existencia no le convence en absoluto. Para ¨¦l, la humanidad se somete a un sistema utilitario que le roba o sustituye su esencia y que le transforma en un simple blanco del mercado. En su obra, pinta la humanidad al servicio de la herramienta y deja entrever c¨®mo, sin darnos cuenta, nos convertimos en unos mu?ecos de las m¨¢quinas que nos dicen qu¨¦ hacer, cu¨¢ndo y c¨®mo. ¡°Ya hemos cruzado un l¨ªmite¡±, asevera.

Pandemia, medicina y humillaci¨®n

Las dudas, la ambig¨¹edad, el temor, el cansancio y la subjetividad son propias de la humanidad y no existen en el mundo de los algoritmos. Uno m¨¢s uno igual dos, y punto. Seg¨²n Sadin, la industria num¨¦rica cree haber resuelto el mayor problema del sistema sanitario, el error humano, pero se equivoca. ¡°Dicen que la medicina es el ¨¢mbito que m¨¢s se va a beneficiar de estos sistemas superinteligentes para los diagn¨®sticos. Pero no es cierto¡±, remata. ¡°Quieren aprovecharse de nuestros defectos, pero con esta pandemia hemos visto que la medicina no necesita esto. M¨¢s bien necesita camas, espacio y material¡±, insiste. Al fil¨®sofo franc¨¦s le parece una aberraci¨®n que los 12 a?os de estudio de un m¨¦dico cuenten menos que una m¨¢quina, que adem¨¢s no son los propios m¨¦dicos las que la programan.

¡°La realidad [de la pandemia] nos ha dado en plena cara y la IA no ha sido capaz de verla venir. No ha dado ninguna se?al de alarma. ?D¨®nde est¨¢ aqu¨ª la voluntad de controlarlo todo? Hemos sido humillados. Nos ha sobrepasado a todos¡±, asevera. Uno de sus consejos es que la gente tenga cuidado con los discursos de la industria que le intenta vender soluciones para sus mayores defectos. ¡°Ahora mismo, en 2020, no niego que exista una complementariedad humano-m¨¢quina, pero hablemos dentro de cinco a?os. Todo ser¨¢ distinto¡±, advierte.

Lo que ocurre y ocurrir¨¢ con el mundo laboral es lo que m¨¢s inquieta al escritor. No tanto por la p¨¦rdida de empleos que traer¨¢ la IA, una de las mayores preocupaciones de Martin Ford, experto en rob¨®tica brit¨¢nico, sino por el nuevo m¨¦todo de organizaci¨®n que se implementar¨¢ a gran escala. Una organizaci¨®n regida totalmente por las m¨¢quinas y los algoritmos que no deja lugar al desacuerdo. ¡°El empleado se doblega a la verdad enunciada por la m¨¢quina, una verdad definida por intereses econ¨®micos. ?D¨®nde est¨¢ la ¨¦tica? ?Est¨¢n reduciendo la realidad a ecuaciones matem¨¢ticas!¡±, exclama.

Para Sadin el trabajo se define por la colectividad: varios seres humanos toman decisiones y encuentran soluciones a partir de diversas opiniones. Sin embargo, hoy son los datos los que dirigen la cadena mediante sensores que miden los gestos y la eficiencia de los trabajadores. ¡°No solo eval¨²a en tiempo real, sino dicta los gestos que se tienen que hacer. Esto burla la integridad y dignidad del ser humano¡±, alerta el fil¨®sofo. Quiz¨¢s lo que m¨¢s tensa al escritor parisino, es que no se hable lo suficiente de que se est¨¦ intentando robotizar e incluso borrar el caos, esencial al mundo, con sus cualidades y defectos. ¡°Estos sistemas tratan de homogeneizar a la sociedad con esa inquietud permanente de alcanzar la perfecci¨®n, que, menos mal, siguen teniendo lagunas. Los seres humanos seguimos siendo multisensoriales, complejos, contradictorios y plurales¡±.

¡ª ?Sabes cu¨¢les es tu mayor defecto?, pregunta el fil¨®sofo del otro lado de la pantalla.

¡ª No.

¡ª Ser la ¨²nica como t¨² en este mundo, responde para ilustrar el problema.

La ¡°sociedad de la sugerencia automatizada¡±

Volvamos a la mujer de la entrevista de trabajo. Los que contratan ya no necesitan leer todo el papeleo, la m¨¢quina analiza a los candidatos en su lugar y la decisi¨®n la toman los algoritmos. ¡°Es otra ganancia de optimizaci¨®n, lo reconozco, pero ?qu¨¦ pasa si la persona que hay enfrente de la pantalla es tartamuda, pero no por eso menos apto para el trabajo? ?Y si toma su tiempo para contestar no por falta de reactividad, sino porque, simplemente, piensa antes de hablar?¡±. Por ahora los seres humanos tienen el control, opina Sadin. Pero dentro de tres a?os todo puede cambiar y por eso hay que empezar a reflexionar y a no dar las cosas por hecho.

Sin embargo, es posible que ¡°demos por hecho¡± todo esto porque desde hace m¨¢s de 10 a?os, con la invenci¨®n del smartphone, forma parte de nuestras vidas. Aceptamos su llegada y le dimos incluso la bienvenida, los brazos abiertos y los pulgares en alto listos para pulsar la pantalla. Estos sistemas que est¨¢n por todas partes constituyen ¡°un acompa?ante algor¨ªtmico de la vida¡±, nos da ideas, mejores opciones, sugerencias e incluso nos hablas, como los altavoces inteligentes de Amazon que llaman ¡°asistente virtual¡±. ¡°Es dif¨ªcil deshacerse de esto porque confiamos en estas aplicaciones, en su criterio¡±, explica Sadin. La IA cambia la estructura: ¡°Ya no son los seres humanos los que van hacia los productos, los productos son los que se presentan a las personas. Entramos en una sociedad de la recomendaci¨®n y la sugerencia automatizada y personalizada¡±.

Del acceso, al exceso

Salir de este bucle digital parece imposible. ¡°Hemos pasado de la era del acceso a la del exceso¡±, dice el fil¨®sofo. Adem¨¢s, es complicado alejarse de estas tecnolog¨ªas, pues facilitan la vida y sus resultados son fiables. El mercado num¨¦rico contesta a la demanda, ?que pasar¨ªa si el ser humano parase de pedir m¨¢s y m¨¢s? ¡°Podr¨ªa ser una opci¨®n, pero la industria digital tiene un poder de seducci¨®n muy potente¡±, contesta.

Entonces, ?qu¨¦ hacer? En una palabra: parar. Sadin asegura que hay una soluci¨®n frente a esta carrera hacia la automatizaci¨®n del mundo: ¡°Es la responsabilidad de la persona de decidir hasta donde acepta estar controlada. Cuando ve que est¨¢ perdiendo ese poder de decisi¨®n, tiene que parar¡±. El fil¨®sofo cree que, pese a todo esto, estamos en un mundo donde, al mismo tiempo que la tecnolog¨ªa se desarrolla a una velocidad vertiginosa, tambi¨¦n lo hacen las ideas y las inquietudes. ¡°Con la pandemia y los errores, hemos llegado al final de una historia¡±, concluye. En definitiva, es el momento de hacerse las buenas preguntas.