Expertos en inteligencia artificial reclaman la creaci¨®n de una agencia en Europa para vigilar su desarrollo

Tony Blair cree que el desaf¨ªo m¨¢s importante que afronta la humanidad en este momento no es el populismo ni el nacionalismo, ni tampoco la posibilidad de una nueva crisis econ¨®mica, ni siquiera las consecuencias de un Brexit que considera ¡°un error terrible¡±. El ex primer ministro brit¨¢nico cree que el principal reto al que nos enfrentamos es c¨®mo vamos a dise?ar la inteligencia artificial y c¨®mo vamos a asumir todos los cambios que traer¨¢ consigo: ¡°Cuando estaba en el Gobierno, la tecnolog¨ªa era la ¨²ltima de mis preocupaciones. Muchos pol¨ªticos opinan lo mismo. Eso debe cambiar¡±.

Blair realiz¨® estas reflexiones la pasada semana en Bruselas, durante un encuentro de alto nivel de pol¨ªticos, acad¨¦micos y responsables de compa?¨ªas tecnol¨®gicas para debatir sobre la inteligencia artificial, organizado por el Instituto Atomium. Durante ese encuentro, los pol¨ªticos y las empresas (policy makers y change makers, en palabras de Blair) debatieron c¨®mo convertir a Europa en un polo de desarrollo de la inteligencia artificial, que ahora est¨¢ concentrado en EE UU y China, y c¨®mo abrir un debate, que en estos momentos no se est¨¢ produciendo, sobre los retos y oportunidades que abre la inteligencia artificial en la salud, el transporte, la energ¨ªa e incluso la justicia y el orden p¨²blico. Y es en ese debate donde una veintena de cient¨ªficos ha querido intervenir publicando un informe para desarrollar una ¡°buena inteligencia artificial¡±, basada en decisiones ¨¦ticas. Los expertos, dirigidos por el profesor de Filosof¨ªa y ?tica de la Informaci¨®n de la Universidad de Oxford Luciano Floridi, han presentado sus conclusiones al Parlamento europeo.

En el estudio, los investigadores explican que tanto las oportunidades y los riesgos de la inteligencia artificial son ¡°enormes¡±, as¨ª que realizan 20 recomendaciones con un enfoque ¡°multidisciplinar¡± para tratar de desarrollar las primeras y atajar los segundos. ¡°Estas recomendaciones constituyen el elemento final de un marco ¨¦tico para el desarrollo de una buena sociedad basada en la inteligencia artificial¡±, dicen.

Los expertos se encuentran especialmente preocupados por identificar un proceso que pueda ¡°remediar o compensar¡± cualquier problema provocado por la inteligencia artificial. Por eso, recomiendan crear una agencia europea, ¡°similar a la Agencia del Medicamento¡±, que proteja ¡°el bienestar p¨²blico y supervise los productos, programas, sistemas o servicios¡± relacionados con la inteligencia artificial. Los expertos, que trabajan en una decena de universidades y organismos europeos, creen que este sistema debe ser similar al que ya existe con los medicamentos, garantizando as¨ª que los productos y servicios de inteligencia artificial que se vendan en Europa responden a los ¡°est¨¢ndares ¨¦ticos¡±.

El problema es, precisamente, cu¨¢les son esos est¨¢ndares. En el informe -en el que participan expertos como Raja Chatila, del CNRS franc¨¦s, Francesca Rossi, de la Universidad de Padua e IBM Research-, se especifica que los diferentes grupos de inter¨¦s deber¨ªan desarrollar m¨¦tricas para medir la confianza de los productos y servicios desarrollados con inteligencia artificial. As¨ª, se podr¨ªa a?adir esa m¨¦trica al precio del producto o servicio, para que los consumidores valoren hasta qu¨¦ punto pueden fiarse de ¨¦l.

Los cient¨ªficos hablan espec¨ªficamente del uso de la inteligencia artificial en los tribunales. Hay ejemplos preocupantes. En Estados Unidos se utiliza el programa COMPAS desde 1998 para otorgar la libertad condicional a un convicto, ya que eval¨²a la posibilidad de que reincida, mediante el an¨¢lisis de 137 variables. Un estudio reciente ha mostrado que falla exactamente igual que un humano. Los expertos recomiendan la creaci¨®n de una especie de Defensor del pueblo de la inteligencia artificial para asegurar el derecho de los ciudadanos de reclamar cuando estos algoritmos tomen decisiones injustas o equivocadas.

La propuesta de regular la inteligencia artificial no convence a todo el mundo. ¡°Debemos pensar en reglas, pero no debemos apresurarnos en regular¡±, dijo Robert Viola, director general de Redes y Tecnolog¨ªa de la Comisi¨®n Europea. Entre algunos expertos hay miedo de que, si Europa impone reglas a la inteligencia artificial, las compa?¨ªas que la desarrollan preferir¨¢n llevarse sus productos a EE UU y China. Al encuentro celebrado en el Parlamento Europeo de Bruselas acudieron ejecutivos de compa?¨ªas estadounidenses como Facebook, Microsoft o Google, muy criticadas porque sus algoritmos reflejan los prejuicios humanos y muestran sesgos machistas, clasistas o racistas: por ejemplo, si se busca ¡°CEO¡± [presidente] en las im¨¢genes Google, la inmensa mayor¨ªa de los resultados muestran a hombres blancos, de mediana edad, enfundados en trajes y corbatas. Aunque las empresas explican que trabajan muy duramente en corregir los fallos de sus algoritmos, uno de esos ejecutivos reflexiona: ¡°?Qu¨¦ queremos, que los algoritmos reflejen la realidad o la corrijan?¡±. Seg¨²n un estudio publicado por Ipsos con motivo del 8 de marzo pasado, solo un 3% de los CEO en las 500 mayores empresas del mundo son mujeres.

¡°Los datos son un reflejo de la humanidad¡±, reflexionaba este mismo ejecutivo, que prefiere no ser identificado debido a las estrictas reglas de las compa?¨ªas de Silicon Valley para que sus trabajadores hablen con la prensa. ¡°La inteligencia artificial no puede estar disociada de la humana que la dise?a, y los humanos tienen sesgos, prejuicios y malas intenciones¡±. Ante este enorme desaf¨ªo, todos los participantes en la cumbre reclamaron una mayor participaci¨®n de fil¨®sofos y soci¨®logos en el debate sobre c¨®mo estamos dise?ando la inteligencia artificial y, sobre todo, de los ciudadanos, porque esa participaci¨®n es, por ahora, escasa o nula.?Por eso, este tema genera miedos y desconfianza. ¡°Cuando hay cambios veloces en el mundo, los ciudadanos tienden a mostrar ansiedad porque creen que nadie ha pensado en ellos y pueden perder el control de sus vidas, y eso es lo que alimenta el populismo¡±, reflexionaba Tony Blair. ¡°Debemos explicarles qu¨¦ beneficios pueden obtener de la tecnolog¨ªa, y ser transparentes sobre los riesgos. Si volviera al Gobierno, cambiar¨ªa radicalmente mi enfoque para afrontar estos desaf¨ªos¡±. En cualquier caso,?Europa no es la ¨²nica que se ha puesto manos a la obra: esta misma semana se ha sabido que expertos de la Universidad de Harvard van a dar clases sobre inteligencia artificial a congresistas de EE UU.