Por qu¨¦ hay que abordar la regulaci¨®n de la inteligencia artificial como la de la aviaci¨®n comercial

Hablar de inteligencia artificial est¨¢ de moda. ChatGPT, Open Assistant, Bard y otros modelos de gran relevancia aparecen constantemente en nuestras conversaciones cotidianas. Sin embargo, que est¨¦ de moda no significa que la inteligencia artificial sea algo nuevo. En realidad, lleva ya muchos a?os operando entre nosotros, aunque en aplicaciones menos deslumbrantes que los modelos de lenguaje de gran tama?o.

Lo que s¨ª es nuevo es la explosi¨®n exponencial en las capacidades de estos sistemas y la democratizaci¨®n de la inteligencia artificial que se est¨¢ produciendo con su irrupci¨®n, desde la doble vertiente de los usuarios y de los desarrolladores. Es por ello que el reciente llamamiento de Elon Musk y otros tecn¨®logos, a pausar el desarrollo de ¡°sistemas m¨¢s capaces que GPT-4¡å me ha causado cierto asombro. Un Tratado sobre No Proliferaci¨®n con el objetivo de prevenir la propagaci¨®n de las armas nucleares tiene todo el sentido del mundo, pues uno no puede ir a un centro comercial y comprarse unas centrifugadoras para enriquecer uranio. Sin embargo, cualquiera con un m¨ªnimo de conocimientos tecnol¨®gicos s¨ª que puede comprarse espacio en un servidor en la nube, y comenzar a desarrollar sistemas de inteligencia artificial basados en librer¨ªas de c¨®digo abierto y en conjuntos de datos de entrenamiento accesibles p¨²blicamente. Por lo tanto, eso de prohibir el desarrollo de las aplicaciones de inteligencia artificial, sin entrar en si es una buena idea o no, no me parece factible. Cuesti¨®n diferente es prohibir o limitar determinados usos de la inteligencia artificial, y eso es precisamente lo que pretende la futura Ley Europea de inteligencia artificial, entre otras cosas.

M¨¢s que intentar poner puertas al campo, lo que hay que hacer es regular y trazar l¨ªneas rojas que no se podr¨¢n cruzar, a la vez que se promueve la capacidad de innovaci¨®n de las universidades e industrias europeas en lo dem¨¢s. Soy consciente de que hoy en d¨ªa hay m¨¢s preguntas que respuestas en este ¨¢mbito, y por ello, determinar qu¨¦ se puede y qu¨¦ no se puede hacer se presenta como una tarea casi tit¨¢nica. Sin embargo, aunque no sea f¨¢cil y todav¨ªa tengamos mucho que aprender de la IA, la labor del regulador es delimitar cu¨¢les son las responsabilidades de cada uno de los actores que intervienen en la vida de un sistema de IA (porque las responsabilidades no se pueden descargar en las m¨¢quinas), para as¨ª empoderar a los organismos de supervisi¨®n para que puedan intervenir y sacar del circuito r¨¢pidamente a quienes pretendan hacer un uso irresponsable de esta tecnolog¨ªa. La regulaci¨®n debe combinar cimientos s¨®lidos con la flexibilidad necesaria para adaptarse a los r¨¢pidos avances que se est¨¢n produciendo (y que van a seguir produci¨¦ndose en este ¨¢mbito).

Por eso, mi propuesta es que abordemos la gobernanza de la inteligencia artificial como se abord¨® en su d¨ªa la regulaci¨®n de la aviaci¨®n comercial. Es decir, con est¨¢ndares internacionales rigurosos en materia de seguridad, sin reparar en costes y con un proceso constante de mejora y actualizaci¨®n, en el que los profesionales no solo aprendan de los accidentes (que afortunadamente cada vez son m¨¢s raros en la aviaci¨®n comercial) sino de cualquier peque?o incidente o error.

El Convenio de Chicago, que cre¨® la Organizaci¨®n de Aviaci¨®n Civil Internacional (OACI) hace casi 80 a?os, fij¨® un marco normativo de gobernanza internacional y unos est¨¢ndares t¨¦cnicos rigurosos, que los estados miembros de la OACI deben desarrollar con leyes en sus respectivas jurisdicciones y que las aerol¨ªneas deben cumplir a rajatabla, si es que quieren volar a trav¨¦s de fronteras internacionales. Las autoridades regionales o nacionales de supervisi¨®n de los estados miembros de la OACI (en el caso de la Uni¨®n Europea, se incluye tambi¨¦n la Agencia Europea de Seguridad A¨¦rea - AESA) solo conceden sus permisos despu¨¦s de una larga cascada de certificaciones.

Los pilotos solo consiguen sus licencias de vuelo despu¨¦s de formaciones riguros¨ªsimas y lo mismo se aplica, a su respectivo nivel, a los mec¨¢nicos que revisan los aviones o a los controladores a¨¦reos. Las aeronaves solo se pueden vender y poner en funcionamiento despu¨¦s de pasar infinidad de pruebas, revis¨¢ndose hasta la ¨²ltima tuerca o tornillo. Y hasta la solvencia y capacidad de los equipos de direcci¨®n de las aerol¨ªneas se revisa y se certifica, porque no se puede dejar una actividad de gran riesgo como esta en manos de un equipo de personas que no demuestren la suficiente capacidad y experiencia. Esto es puro sentido com¨²n.

Es evidente que no es lo mismo el fan¨¢tico de la aviaci¨®n que se construye su propio avi¨®n que Airbus o Boeing fabricando modelos de avi¨®n comercial en el que viajar¨¢n millones de pasajeros; no es lo mismo el fan¨¢tico de los ordenadores que construye un sistema de inteligencia artificial para uso propio que una empresa o un Estado que pone en marcha un sistema de inteligencia artificial que tendr¨¢ impacto en las vidas de miles o millones de personas. Es en este caso cuando la regulaci¨®n y la existencia y adopci¨®n de est¨¢ndares es particularmente importante.

Revisi¨®n minuciosa de los algoritmos

Me parece muy interesante mencionar que el enfoque de la aviaci¨®n comercial est¨¢ basado en los datos (data-driven approach) ya que, como es l¨®gico, no se espera a que un avi¨®n se estrelle para mirar su caja negra. Las aerol¨ªneas, bajo la supervisi¨®n de los inspectores y las autoridades, analizan minuciosamente el m¨¢s m¨ªnimo ruido o anomal¨ªa en los datos que registran los sistemas durante el vuelo. En otras palabras: todo se procesa y se compara, una y otra vez, para que volar en avi¨®n sea una actividad de baj¨ªsimo riesgo y todos nos beneficiemos de este ecosistema tan inteligente. Los que nos subimos en un avi¨®n, para poder llegar sanos y salvos a nuestro destino; las empresas y profesionales del sector, para ganarse dignamente la vida. F¨ªjense que, contrariamente al discurso habitual de las empresas tecnol¨®gicas, en la aviaci¨®n comercial, la seguridad nunca se computa como un coste o como una barrera a la innovaci¨®n sino como la condici¨®n sin la cual el propio negocio dejar¨ªa inmediatamente de existir.

En este sentido, me felicito de que la propuesta de reglamento de inteligencia artificial est¨¦ cimentada en un sistema de an¨¢lisis de riesgos y prevea una serie de requisitos aplicables a los sistemas de IA de alto riesgo, en particular a los proveedores de sistemas, como la obligaci¨®n de elaborar una declaraci¨®n UE de conformidad y de colocar el marcado CE de conformidad. Estas certificaciones, l¨®gicamente, deben ser complementarias a las certificaciones, sellos y marcas de protecci¨®n de datos, que por supuesto se deben aplicar tambi¨¦n con id¨¦ntico rigor a aquellos sistemas que procesen datos personales. Adem¨¢s, de la misma manera que se prev¨¦n revisiones mec¨¢nicas en los aviones cada cierto tiempo o cuando se verifican determinados par¨¢metros, los sistemas de inteligencia artificial deber¨¢n de someterse a auditorias obligatorias peri¨®dicas en las que, como si se tratase de los tornillos y tuercas de un avi¨®n, los algoritmos y los datos que est¨¢n detr¨¢s de su funcionamiento se revisen por los inspectores y los mec¨¢nicos para garantizar la seguridad del sistema y evitar accidentes. Y no vale eso de que esa informaci¨®n est¨¢ protegida por supuestos derechos de propiedad intelectual. Para la competencia, puede ser; para el inspector, jam¨¢s.

En definitiva, si como todo parece indicar, la inteligencia artificial va a seguir avanzando de una manera vertiginosa en los pr¨®ximos a?os, reemplazando a las personas y permitiendo que las m¨¢quinas tomen decisiones que van a afectar cotidianamente a nuestras vidas, una inteligencia natural y b¨¢sica nos aconseja que copiemos el modelo de ¨¦xito de aquellos que se ganan la vida transportando con seguridad a las personas a diez mil metros de altura y a m¨¢s de ochocientos kil¨®metros de velocidad.

Igualmente, de la misma manera que los pasajeros pueden reclamar da?os en caso de accidente a¨¦reo, es necesario que haya normas claras y espec¨ªficas en el ¨¢mbito de la IA en caso de accidentes; que los habr¨¢, sobre todo, al principio. En este sentido, aplaudo que se est¨¦ tramitando una propuesta a nivel europeo sobre responsabilidad en el ¨¢mbito de la inteligencia artificial, aunque ser¨ªa deseable que el propio reglamento de IA tambi¨¦n incluyese un derecho de recurso por da?os causados por los sistemas de inteligencia artificial. Solo as¨ª se garantizar¨¢ la aplicaci¨®n y el cumplimiento efectivos de las leyes de IA.

Est¨¢ en nuestra mano, por tanto, ahora que este sector se encuentra todav¨ªa en su infancia, sentar los pilares de una inteligencia artificial segura, con est¨¢ndares internacionales equivalentes, que transmita a la ciudadan¨ªa la necesaria confianza y coadyuve positivamente al progreso de la humanidad.

As¨ª pues, se?oras y caballeros, abr¨®chense bien los cinturones que llega la inteligencia artificial.

Leonardo Cervera Navas es el director del Supervisor Europeo de Protecci¨®n de Datos

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.