Los gigantes de la IA asesoran a nuestros gobiernos, pero son juez y parte

Estamos en una ¨¦poca en la que la inteligencia artificial es omnipresente. No se habla de otra cosa y no hay un d¨ªa en el que no se haga alg¨²n anuncio espectacular. En los ¨²ltimos 10 a?os, estas tecnolog¨ªas cada vez m¨¢s sofisticadas han sacudido muchos ¨¢mbitos de nuestra vida y todo indica que lo har¨¢n todav¨ªa m¨¢s en el futuro. Y la sociedad empieza a protestar por tanta perturbaci¨®n.

De manera que, en un periodo ya de por s¨ª muy turbulento, y como ocurre con muchos asuntos delicados, los gobiernos quieren dar la impresi¨®n de que controlan la situaci¨®n y no est¨¢n desbordados por los acontecimientos. En este sentido, en la mayor¨ªa de las democracias liberales existe un reflejo institucional: en cuanto se manifiesta alg¨²n foco de efervescencia, se crea un comit¨¦ ad hoc.

Con el prerrequisito sistem¨¢tico ¡ªespecialmente en relaci¨®n con la IA¡ª de que los principales criterios de evaluaci¨®n son los factores econ¨®micos y la religi¨®n del crecimiento. Adem¨¢s, los pol¨ªticos est¨¢n convencidos de que los que est¨¢n en el coraz¨®n de la m¨¢quina ¡ªempezando por los empresarios y los ingenieros¡ª son los que mejor conocen las conclusiones de todos estos avances.

Sin embargo, ese es un grave error, porque esas personas transmiten una visi¨®n determinada del mundo ¡ªbasada en la hip¨®tesis de que los seres humanos son imperfectos desde el principio y unos sistemas cada vez m¨¢s omniscientes van a ¡°mejorarlos¡±¡ª al tiempo que defienden intereses privados.

Eso es lo que hacen en Francia los miembros de la comisi¨®n sobre IA que present¨® hace unos meses su informe al presidente, Emmanuel Macron; entre ellos estaban Yann LeCun, cient¨ªfico jefe de IA en Meta; Jo?lle Barral, directora cient¨ªfica de Google, y Arthur Mensch, fundador de Mistral AI.

Es extraordinario que, a la hora de orientar las pol¨ªticas nacionales y las inversiones p¨²blicas en estos ¨¢mbitos, dejemos que unas personas que son a la vez juez y parte no solo nos iluminen, sino que adem¨¢s nos hagan recomendaciones. Esta es una confusi¨®n de categor¨ªas que, en una Rep¨²blica, y desde el punto de vista jur¨ªdico, es sencillamente un conflicto de intereses.

La verdad es que cometemos una y otra vez los mismos errores. Es como si no tuvi¨¦ramos memoria. Porque esas pr¨¢cticas, en vigor desde los a?os ochenta, son las que han desembocado en una especializaci¨®n cada vez mayor de la sociedad, que ve a supuestos sabios ¡ªmuchas veces procedentes de gabinetes de consultor¨ªa¡ª dictar el rumbo de los asuntos p¨²blicos desde la cima de sus hipot¨¦ticos conocimientos. Y que, por ejemplo, han promovido el uso indiscriminado de pesticidas, la implantaci¨®n de unos m¨¦todos de gesti¨®n despiadados y el retroceso de los servicios p¨²blicos.

Hoy ni siquiera se pone en duda la legitimidad de esas costumbres. Un ejemplo es la presidenta de la Comisi¨®n Europea, Ursula von der Leyen, que quiere crear un ¡°panel mundial de expertos¡± que saldr¨¢n en su mayor¨ªa, es de presumir, del mundo de la tecnolog¨ªa, dada la fascinaci¨®n que despiertan los dise?adores de la IA, a los que se considera los or¨¢culos de nuestro tiempo, a quienes vamos a pedir consejo y sobre los que no cabe la menor duda de que est¨¢n trabajando por un nuevo mundo feliz.

Por el contrario, lo que habr¨ªa que hacer con estos temas tan importantes ¡ªy con otros decisivos¡ª es dar la vuelta a esos argumentos. Deber¨ªamos trabajar, lejos de la ret¨®rica de las ¡°promesas¡± con las que nos machacan sin descanso, para establecer un peritaje de comprobaci¨®n: garantizar que quienes se mueven en entornos transformados por la integraci¨®n de sistemas de inteligencia artificial puedan explicar qu¨¦ efectos han percibido en las oficinas, la log¨ªstica, la administraci¨®n, la escuela, los hospitales, el sistema judicial y as¨ª sucesivamente.

De esa forma obtendr¨ªamos una interpretaci¨®n completamente diferente de los fen¨®menos, basada en la experiencia y las realidades concretas, no en opiniones emitidas desde dentro de una burbuja y ligadas a determinados intereses. Digamos que ser¨ªa una saludable pol¨ªtica del testimonio.

Eso es lo que nos ha faltado, ahora que estamos adquiriendo conciencia de muchos extrav¨ªos pasados que han alimentado el resentimiento y la amargura por no tener voz ni voto en el rumbo de nuestro destino. De esta manera inculcar¨ªamos una vitalidad democr¨¢tica elemental, similar a lo que John Dewey (1859-1952), en El p¨²blico y sus problemas (1927), llamaba ¡°experimentos sociales¡±, que consiste en proponernos involucrar a la mayor cantidad de gente posible en una acci¨®n com¨²n.

Estamos en una ¨¦poca de fundamentalismo de la inteligencia artificial, en el sentido de que se considera una verdad manifiesta que la IA encarna el curso inevitable de la historia, proporciona beneficios sin fin y contribuir¨¢ a mejorar todos los aspectos de nuestra vida. Aunque, por supuesto, se entiende que habr¨¢ muchas turbulencias en el camino hacia un mundo que pronto estar¨¢ libre del m¨¢s m¨ªnimo defecto.

Si nos fijamos bien, la constante renovaci¨®n tecnol¨®gica interfiere con el ejercicio de la lucidez en el presente, por lo que, en general, tardamos en comprender los fen¨®menos. Tal como sucedi¨® con el dogma de la digitalizaci¨®n de la ense?anza p¨²blica, que, a principios de la d¨¦cada de 2010, se convirti¨® en una prioridad absoluta.

Es revelador que esta pol¨ªtica, promovida en su momento por los mismos comit¨¦s y poderosos grupos de presi¨®n, est¨¦ hoy en tela de juicio en Suecia. Ha llegado el momento de volver a la escritura a mano y la lectura atenta de libros, que ahora est¨¢n volviendo a considerarse indispensables para el desarrollo de nuestra inteligencia y la formaci¨®n de mentes libres y cr¨ªticas.

La realidad es que vivimos un momento de enorme gravedad. A la dimensi¨®n cognitiva y organizativa de la IA, que funciona desde hace 15 a?os y a la que se ha asignado la tarea de orientar y supervisar nuestras acciones con diversos prop¨®sitos, ahora, desde que se instal¨® la versi¨®n p¨²blica de ChatGPT en noviembre de 2022, se ha a?adido un poder intelectual y creativo. Un modelo que tiene tres consecuencias fundamentales.

En primer lugar, la renuncia anunciada a las facultades que nos hacen ser lo que somos, empezando por la de crear lenguaje. En segundo lugar, un r¨¦gimen de representaci¨®n en el que ya no seremos capaces de distinguir ni el origen ni la naturaleza de una imagen, lo que desembocar¨¢ en una indistinci¨®n generalizada y muy peligrosa. Por ¨²ltimo, un hurac¨¢n en el sector terciario, que representa m¨¢s de dos tercios del empleo en los pa¨ªses del Norte, y muchas de cuyas tareas ya pueden asumirlas unos sistemas generativos que operan con much¨ªsima m¨¢s rapidez y costes mucho menores que un ser humano.

Todos esos cambios sociales, culturales y de civilizaci¨®n son demasiado decisivos para que nos pongamos en manos de pitonisos que tienen una ¨²nica opini¨®n.

A los Estados solo les preocupa garantizar su ¡°soberan¨ªa digital¡± ¡ªconcebida en un ¨²nico sentido econ¨®mico y geopol¨ªtico¡ª y entrar, en cuerpo y alma y de cabeza, en la carrera de la IA. Una especie de argumento acr¨ªtico que no conduce m¨¢s que a una automatizaci¨®n cada vez mayor de los asuntos humanos y asfixia la implantaci¨®n de cualquier modo de vida basado en unos principios completamente diferentes.

Ha llegado el momento de acabar con esta concepci¨®n piramidal y anticuada del saber y construir una sociedad que se mire en el espejo, que sea capaz de hacer p¨²blicos los datos que merecen serlo dentro de nuestro cuerpo pol¨ªtico com¨²n. Es decir, unas condiciones que nos den los medios para contradecir las representaciones dominantes, para hacer valer nuestros derechos fundamentales y nuestras leg¨ªtimas diferencias, mediante el ejercicio, con hechos, de nuestra propia soberan¨ªa.

Ap¨²ntate aqu¨ª a la newsletter semanal de Ideas.