Un marco ¨¦tico para el uso de la inteligencia artificial

Sobre la base de sus 75 a?os de historia, la Unesco tiene la responsabilidad y la capacidad de ayudar a resolver los desaf¨ªos de este siglo. La revoluci¨®n digital es uno de ellos. Desde el inicio de mi mandato en 2018, nos llev¨® a poner en marcha un ambicioso proyecto: dar al mundo un marco ¨¦tico para el uso de la inteligencia artificial (IA). Muchos pensaron que no ser¨ªa posible. Tres a?os despu¨¦s, gracias a la movilizaci¨®n de cientos de expertos de todo el mundo y a intensas negociaciones internacionales, los 193 Estados miembros de la Unesco acaban de adoptar oficialmente este marco ¨¦tico. Es un momento hist¨®rico.

La recomendaci¨®n de la Unesco sobre la ¨¦tica de la inteligencia artificial es un llamamiento a cambiar el modelo de negocio para que el mundo de la IA sea seguro, justo e inclusivo. Es un llamamiento a fortalecer las capacidades de los gobiernos para hacer frente a la IA mediante marcos jur¨ªdicos, reglamentos e instituciones eficaces. Aprovechamos el multilateralismo como mecanismo que ayuda a garantizar que los gobiernos act¨²en por el bien de las personas. As¨ª, protege y promueve los derechos humanos existentes anclados en el derecho internacional vinculante y proporciona un marco anticipatorio para ayudar a mitigar los riesgos futuros y ofrece acciones pol¨ªticas concretas dise?adas para resolver los desaf¨ªos emergentes.

Se basa en cuatro valores fundamentales, que garantizan los derechos humanos, el florecimiento del medio ambiente y los ecosistemas, la diversidad y la inclusi¨®n, y las sociedades pac¨ªficas, justas e interconectadas. Los valores se desglosan en diez principios.

La proporcionalidad garantiza que el uso de los sistemas de IA no exceda de lo necesario y adecuado al contexto, mientras que la seguridad aborda los da?os no deseados y la vulnerabilidad a los ataques. El principio de equidad y no discriminaci¨®n pide que se compartan los beneficios de las tecnolog¨ªas de IA teniendo en cuenta las necesidades espec¨ªficas de los diferentes grupos vulnerables y aborda la discriminaci¨®n, las brechas digitales y de conocimiento, y las desigualdades globales al respecto.

La sostenibilidad garantiza el desarrollo de sociedades sostenibles basadas en la consecuci¨®n de un complejo conjunto de objetivos en un continuo de dimensiones sociales, culturales, econ¨®micas y medioambientales que se ven afectadas por las tecnolog¨ªas de la IA. La protecci¨®n de datos y el derecho a la intimidad hacen hincapi¨¦ en las cuestiones relacionadas con el modo en que se recogen, utilizan, comparten, archivan y eliminan los datos para los sistemas de IA.

El principio de transparencia y explicabilidad reconoce que las personas tienen derecho a ser conscientes cuando se toma una decisi¨®n sobre la base de algoritmos de IA, y en esas circunstancias requiere informaci¨®n explicativa tanto por parte del sector privado como del p¨²blico y una posibilidad de reparaci¨®n, mientras que el principio de responsabilidad y rendici¨®n de cuentas garantiza la atribuci¨®n de la responsabilidad a los seres humanos.

Este marco ¨¦tico global reconoce la necesidad de garantizar la concienciaci¨®n y la comprensi¨®n p¨²blica de las tecnolog¨ªas de IA y el valor de los datos, de modo que todos los miembros de la sociedad puedan tomar decisiones informadas sobre el uso de los sistemas de IA y est¨¦n protegidos de influencias indebidas.

M¨¢s all¨¢ del ¡°qu¨¦¡± de los valores y principios, la recomendaci¨®n ofrece una orientaci¨®n clara sobre el ¡°c¨®mo¡± avanzar y lograr un impacto, proponiendo acciones pol¨ªticas en ¨¢reas que van desde la gobernanza ¨¦tica y la administraci¨®n y el desarrollo y la cooperaci¨®n internacional hasta la cultura, la salud y el bienestar social.

As¨ª, el ¨¢rea de acci¨®n pol¨ªtica sobre el g¨¦nero ¨Duna de las prioridades globales de la Unesco¨D pone el foco sobre la necesidad de aumentar la diversidad en el campo de la IA y garantizar que las mujeres y las ni?as est¨¦n representadas en el desarrollo de estas herramientas y se beneficien por igual de la tecnolog¨ªa. Est¨¢ dise?ada para abordar una brecha cr¨ªtica en materia de g¨¦nero e IA y para ayudar a abordar los sesgos y estereotipos en los algoritmos.

La recomendaci¨®n subraya la importancia de la gobernanza de los datos, promueve una mejor comprensi¨®n del papel de los datos en el desarrollo de algoritmos seguros y equitativos, y establece las normas para mantener el control de los datos en manos de los usuarios, permiti¨¦ndoles acceder a la informaci¨®n y eliminarla. Tambi¨¦n pide a los Estados miembros que garanticen la creaci¨®n de salvaguardias adecuadas para el tratamiento de datos sensibles y de sistemas eficaces de rendici¨®n de cuentas.

Adem¨¢s, la recomendaci¨®n subraya la necesidad de que los Estados miembros doten a los trabajadores de las competencias necesarias para adaptarse a los cambios tecnol¨®gicos y prosperar en la era digital, entre otras cosas mediante programas de perfeccionamiento y recualificaci¨®n. La recomendaci¨®n pide a los Estados miembros que garanticen la protecci¨®n de los consumidores y que eviten la monopolizaci¨®n.

Para asegurar su implementaci¨®n, la recomendaci¨®n incluye dos herramientas que ser¨¢n desarrolladas por la Unesco y que abordan los desaf¨ªos relacionados con la imposibilidad de codificar y regular todos los aspectos de la IA sin endurecer la innovaci¨®n. Est¨¢n motivadas por el hecho de que, como en cualquier actividad innovadora, los riesgos de desventaja pueden darse en todas las etapas del ciclo de vida de la IA.

La ¡°evaluaci¨®n del impacto ¨¦tico¡± ayudar¨¢ a las partes interesadas en la IA a evaluar el impacto que los conjuntos de datos, los marcos conceptuales y los algoritmos pueden tener en la sociedad, y a abordar o mitigar los posibles riesgos. La ¡°metodolog¨ªa de evaluaci¨®n¡± ayudar¨¢ a los pa¨ªses a identificar su estado de preparaci¨®n para aplicar la recomendaci¨®n, con el objetivo de apoyar los esfuerzos de creaci¨®n de capacidades para afrontar la transformaci¨®n que la IA est¨¢ provocando en pr¨¢cticamente todos los ¨¢mbitos.

Audrey Azoulay es Directora General de la UNESCO.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.