Felipe G¨®mez-Pallete, presidente de Calidad y Cultura Democr¨¢ticas: ¡°Estamos jugando a ser dios con la inteligencia artificial¡±

Felipe G¨®mez-Pallete, nacido en Reinosa (Cantabria) hace 78 a?os, ha podido observar desde atalayas directivas de grandes compa?¨ªas, como Inditex o IBM, los efectos de las tecnolog¨ªas que hace tiempo dejaron de ser nuevas. Autor de La sociedad de la informaci¨®n. Riesgos y oportunidades para la empresa espa?ola (Ciencias de la Direcci¨®n, 1988) junto a autores tan destacados como Eduardo Punset, Emilio Fontela, Jos¨¦ Luis Sampedro y Luis Racionero, entre otros, se embarca ahora en una nueva aventura editorial junto a Paz de Torres (exdirectiva de Cisco), con quien comparte tambi¨¦n la direcci¨®n de Calidad y Cultura Democr¨¢ticas, una organizaci¨®n destinada a facilitar la participaci¨®n ciudadana. Este nuevo trabajo, Que los ¨¢rboles no te impidan ver el bosque: caminos de la inteligencia artificial (previsto para su publicaci¨®n en C¨ªrculo Rojo en octubre), aborda la transformaci¨®n de la sociedad a partir de los sistemas y m¨¢quinas que imitan la forma de pensar humana. Considera que hay que anticiparse y actuar ante algo tan prometedor como conflictivo. ¡°Estamos jugando a ser dios¡±, advierte.

Pregunta. ?Qu¨¦ hay detr¨¢s de la inteligencia artificial?

Respuesta. Varias fuerzas. Una de ellas son los intereses econ¨®micos, no nos enga?emos. Tambi¨¦n est¨¢ el inter¨¦s cient¨ªfico, cuya curiosidad no tiene l¨ªmites. Y, despu¨¦s, el motor filos¨®fico. El hombre siempre ha pretendido crear copias de ¨¦l, incluso mejoradas. Uno de los autores que citamos [en el libro] afirma que lo hacemos por lo mismo que tenemos hijos. La pulsi¨®n que nos mueve es la de sentirnos creadores. Es como jugar a ser dios. Es lo que estamos haciendo. Esa ser¨ªa la interpretaci¨®n filos¨®fica, pero la terrenal y potent¨ªsima es la de los intereses econ¨®micos que hay detr¨¢s de esto, como de cualquier innovaci¨®n tecnol¨®gica.

P. Google despidi¨® al ingeniero Blake Lemoine por atribuirle sentimientos a un programa de inteligencia artificial.

R. La inteligencia artificial no llegar¨¢ a tener sentimientos. Se puede programar, convertir en algoritmos, todo lo que sea conocimiento o ideas, pero los sentimientos, el sentir humano, me parece absolutamente improgramable. Hace poco rele¨ª El mundo de ayer, de Stefan Zweig, donde afirma: ¡°S¨®lo la ilusi¨®n, no el saber, hace al hombre feliz¡±. La ilusi¨®n no se puede algoritmizar y, por tanto, no creo en estas pretendidas r¨¦plicas transhumanas o poshumanas. A lo mejor estamos confundiendo el deseo con la realidad porque, si fuera cierto, apaga y v¨¢monos.

Se puede programar, convertir en algoritmos, todo lo que sea conocimiento, ideas, pero los sentimientos, el sentir humano, me parece absolutamente improgramable

P. ?Puede afectar la inteligencia artificial a la dignidad?

R. Es uno de los aspectos que m¨¢s nos preocupa [a los autores del libro]. Dignidad, libertad, reconocimiento social¡­. Los avances en inteligencia artificial, de una u otra manera, pueden poner en riesgo o alterar estos valores. Rafael Yuste, que lidera el proyecto Brain y asesor¨® a Obama, advierte de que hay avances que est¨¢n cambiando la naturaleza humana. Es muy serio.

P. ?La tecnolog¨ªa es neutra?

R. La tecnolog¨ªa no es neutra, es como una cerilla con la que puedes encender la vela de cumplea?os de tu hijo o incendiar el monte. Todo el proceso tecnol¨®gico que acaba cristalizando en un producto, sea una cerilla o un sistema de inteligencia artificial, responde a los intereses y a los valores del momento en el que se desarrolla. Y la inteligencia artificial que se est¨¢ desarrollando responde a unos intereses pol¨ªticos, sociales y econ¨®micos.

P. ?Somos demasiado incautos a la hora de ceder nuestros datos?

R. Hace poco, en una reuni¨®n de amigos, uno de ellos dijo que le daba igual que lo vigilen, pero deber¨ªa saber que, si te acuestas con alguien y el otro tambi¨¦n tiene m¨®vil, mucha gente va a saber cu¨¢ndo, d¨®nde y con qui¨¦n has dormido, por decir algo mundano. Estamos dando toda suerte de datos de nosotros mismos, de nuestro comportamiento, de lo que nos gusta o no, de d¨®nde estamos, de qu¨¦ compramos¡­

Todos los avances en inteligencia artificial, de una u otra manera, pueden poner en riesgo o alterar los par¨¢metros que conforman la dignidad

P. ?Eso atenta contra la dignidad de las personas?

R. S¨ª, entre otras cosas, porque invade tu privacidad. Socava tu dignidad porque te desprendes de argumentos ¨ªntimos que explican tu vida. Esgrimir que facilitamos los datos personales que queremos dar es una verdad a medias.

P. ?La inteligencia artificial terminar¨¢ destruyendo fuerza laboral?

R. Es una viej¨ªsima pol¨¦mica. Llevo trabajando este tema desde los a?os ochenta, en el ¨¢mbito de las tecnolog¨ªas de la informaci¨®n y la comunicaci¨®n. Las tecnolog¨ªas y, en concreto la inteligencia artificial, destruye y crea puestos de trabajo. Es evidente. Y el balance no est¨¢ claro. Luis Racionero dec¨ªa que no nos rasguemos las vestiduras porque cada vez haya menos trabajo: no es un fracaso del capitalismo; es la demostraci¨®n de su ¨¦xito porque, si entendemos por capitalismo la paulatina sustituci¨®n del factor trabajo por el factor capital, es lo que estamos haciendo, estamos sustituyendo el trabajo humano por formas de capital y esto es lo que hay.

P. ?Es solo una cuesti¨®n de cantidad o, tambi¨¦n, de calidad del trabajo?

R. Ambas. La sustituci¨®n de la persona por algoritmos modifica y merma las posibilidades de aprendizaje, porque la m¨¢quina ¡°se queda¡± con circunstancias en las que ya no puede formarse la persona porque le son opacas.

P. ?Se puede regular la inteligencia artificial?

R. Los productos, los sistemas y los servicios que han nacido en el laboratorio y est¨¢n en el mercado hay que regularlos, evidentemente. Europa tiene mucho m¨¢s m¨²sculo e inter¨¦s que Estados Unidos o China, pero esa batalla hay que seguir d¨¢ndola. Pero nuestro foco no lo ponemos en la regulaci¨®n de los sistemas ya existentes de inteligencia artificial. Nosotros preguntamos: ?no ser¨ªa conveniente tambi¨¦n poner la lupa de la regulaci¨®n en el origen, en el inicio, en la investigaci¨®n b¨¢sica? ?Es l¨ªcito para la humanidad investigar cualquier cosa, desarrollar cualquier cosa? Una de nuestras citas favoritas es esta de Margaret Boden: ¡°Debemos tener mucho cuidado con lo que inventamos¡±. Esa es la clave, porque la tecnolog¨ªa, una vez desarrollada, no hay quien la pare. La podemos regular, atemperar, pero llegamos tarde. ?Por qu¨¦ no explicamos los pros y los contras de regular la investigaci¨®n b¨¢sica, donde nacen los nuevos desarrollos? No hemos visto que haya inter¨¦s ni foco puesto en la investigaci¨®n, en el nacimiento del r¨ªo. Nos justifican que, a la postre, aportar¨¢n remedios. Pero no nos dicen la otra cara de la moneda: los enormes intereses econ¨®micos a los que responden.

La tecnolog¨ªa, una vez desarrollada, no hay quien la pare. La podemos regular, atemperar, pero llegamos tarde

P. ?Es el caso del metaverso?

R. ?Qui¨¦n va a crear el metaverso si no es porque, detr¨¢s de ello, hay un inmenso e inimaginable billonario c¨²mulo de intereses econ¨®micos? ?Se est¨¢ haciendo para la felicidad de la humanidad? Pues no. Entonces, ?por qu¨¦ no se dice as¨ª de claro?

P. ?La ciudadan¨ªa puede hacer algo?

R. En nuestro libro hacemos una llamada a pertrechar a la ciudadan¨ªa con pensamiento filos¨®fico e hist¨®rico. Si tiene formaci¨®n sobre qu¨¦ es la vida y c¨®mo transcurre a lo largo del tiempo, manejaremos estas oleadas tecnol¨®gicas de una manera mucho m¨¢s comedida o conducentes a la felicidad humana.

P. ?Significa que estamos buscando la felicidad en la tecnolog¨ªa cuando est¨¢ en nuestra propia esencia?

R. Estamos mirando fuera y hay que mirarse dentro. La inteligencia artificial est¨¢ pr¨¢cticamente ausente del debate p¨²blico y queremos lanzar un peque?o grito, movilizar a la sociedad civil, impulsar iniciativas que hagan que los ciudadanos exijamos m¨¢s claridad, que no se esconda parte de lo que nos venden solo como un beneficio para la humanidad. No es as¨ª. En absoluto. De momento, destruye puestos de trabajo con la promesa de que crea otros muchos e invade la privacidad de las personas. Cambia la esencia del ser humano, como dice repetidamente Rafael Yuste. No somos contrarios a la inteligencia artificial y sus beneficios. Somos contrarios a que se venda parte de la verdad.

?Se est¨¢ haciendo el metaverso para la felicidad de la humanidad? Pues no. Entonces, ?por qu¨¦ no se dice as¨ª de claro?

P. ?Hay que introducir la ¨¦tica en los primeros pasos de la tecnolog¨ªa?

R. En Estados Unidos, Francia, Italia o Canad¨¢ prestan mucha atenci¨®n, muchos recursos, mucho dinero y muchos investigadores a la ¨¦tica aplicada a la inteligencia artificial. En Espa?a lo vemos, pero con menos vigor; es m¨¢s parte de un discurso oficial, porque hay que decirlo, pero no veo grandes impulsores de la ¨¦tica en el campo de la inteligencia artificial entre nosotros, la verdad.

Puedes escribirnos a rlimon@elpais.es, seguir a EL PA?S TECNOLOG?A en Facebook y Twitter y apuntarte aqu¨ª para recibir nuestra newsletter semanal