La Unesco saca adelante la ¡®declaraci¨®n universal¡¯ de la inteligencia artificial

Los Estados miembro de la Unesco cuentan desde ahora una gu¨ªa para ¡°afrontar de manera responsable los efectos conocidos y desconocidos de la inteligencia artificial en los seres humanos, las sociedades y el medio ambiente y los ecosistemas¡±. Ese es el objetivo de la Recomendaci¨®n sobre la ?tica de la Inteligencia Artificial, una suerte de declaraci¨®n universal para el uso de estos sistemas que durante la conferencia general celebrada este mi¨¦rcoles fue adoptada por los 193 pa¨ªses del organismo. La gu¨ªa con...

Los Estados miembro de la Unesco cuentan desde ahora una gu¨ªa para ¡°afrontar de manera responsable los efectos conocidos y desconocidos de la inteligencia artificial en los seres humanos, las sociedades y el medio ambiente y los ecosistemas¡±. Ese es el objetivo de la Recomendaci¨®n sobre la ?tica de la Inteligencia Artificial, una suerte de declaraci¨®n universal para el uso de estos sistemas que durante la conferencia general celebrada este mi¨¦rcoles fue adoptada por los 193 pa¨ªses del organismo. La gu¨ªa contempla los principios que deben inspirar el desarrollo de tecnolog¨ªas tan controvertidas como el reconocimiento facial y aborda tambi¨¦n temas menos pol¨¦micos, como el potencial efecto de los sistemas de recomendaci¨®n sobre la diversidad cultural o ling¨¹¨ªstica. ¡°Este texto establece por primera vez un marco normativo mundial para el uso de la inteligencia artificial. Se basa para ello en tres pilares: el respeto de los derechos humanos, el Estado de Derecho y la lucha contra la discriminaci¨®n¡±, explica a EL PA?S Audrey Azoulay, directora general de la Unesco.

El documento de 30 p¨¢ginas que Azoulay describe como un ¡°texto hist¨®rico¡± no es legalmente vinculante, pero desde la Unesco esperan que se convierta en una referencia global para el desarrollo y uso ¨¦tico de esta tecnolog¨ªa. En este contexto conviven ya numerosos marcos y gu¨ªas desarrollados por organizaciones de diferentes niveles, desde la iniciativa de entidades como la OCDE hasta propuestas como la carta de derechos digitales adoptada por el gobierno espa?ol el pasado 14 de julio. ¡°La Unesco pide a sus 193 Estados miembros que tomen todas las medidas necesarias para aplicar este marco ¨¦tico. La Organizaci¨®n evaluar¨¢ peri¨®dicamente su aplicaci¨®n, pidiendo a los Estados que informen sobre sus progresos y pr¨¢cticas en este ¨¢mbito. Estos resultados ser¨¢n analizados por expertos y sometidos a debate p¨²blico de forma transparente¡±, precisa Azoulay.

En la redacci¨®n del documento, que se inici¨® a principios de 2020 han participado grupos de expertos formados por representantes de Google, Facebook, Microsoft, las Universidades de Stanford y Nueva York, la Academia China de Ciencia y Tecnolog¨ªa. En septiembre del a?o pasado, se present¨® un primer borrador y se abri¨® el plazo para que los pa¨ªses de la Unesco presentasen sus comentarios y observaciones sobre el texto, que ha seguido revis¨¢ndose hasta la ¨²ltima conferencia general.

Entre las claves de la reci¨¦n adoptada recomendaci¨®n se encuentra la acotaci¨®n de principios b¨¢sicos que ata?en al desarrollo de algunas de las tecnolog¨ªas m¨¢s cuestionadas del momento, como los sistemas de reconocimiento facial. De acuerdo con el documento adoptado por la Unesco, que cuenta con pa¨ªses como China entre sus integrantes, estos sistemas ¡°no deber¨ªan ser utilizados con fines de vigilancia masiva o rendici¨®n de cuentas sociales¡±. En el caso de las armas aut¨®nomas, la subdirectora general de Ciencias Sociales y Humanas de la Unesco, Gabriela Ramos, explica en un comunicado que, aunque no se hace referencia expl¨ªcita a los drones de uso militar ni al armamento aut¨®nomo letal, la recomendaci¨®n establece normas b¨¢sicas como el que ¡°las decisiones de vida o muerte no deben ser tomadas por sistemas de inteligencia artificial¡± y se especifica que en estos escenarios ¡°la ¨²ltima palabra debe ser humana¡±.

La recomendaci¨®n tambi¨¦n aborda escenarios menos extremos pero igualmente relevantes, como el potencial efecto de los sistemas de recomendaci¨®n que emplean las plataformas de streaming como Netflix o Spotify en la diversidad cultural y ling¨¹¨ªstica. Un reciente informe de la Uni¨®n Europea se?alaba que los criterios que emplean estos modelos para ofrecer nuevos contenidos ¡°no son transparentes ni auditables¡± y probablemente basan sus decisiones en factores econ¨®micos que benefician a las plataformas. ¡°Los artistas locales o los contenidos creativos y culturales infrarrepresentados son menos proclives a aparecer en las recomendaciones de estos sistemas si sus trabajos o espect¨¢culos son insuficientemente lucrativos¡±, se?ala el informe. En este contexto, la reci¨¦n estrenada gu¨ªa hace un llamamiento a los pa¨ªses para que trabajen mejor comprensi¨®n y evaluaci¨®n tanto de los efectos positivos como de los potencialmente perjudiciales de los sistemas de recomendaci¨®n.

Las relaciones humano-robot

Con vistas a un hipot¨¦tico pero cada vez m¨¢s plausible futuro donde las personas interactuemos con robots y sistemas de inteligencia artificial capaces de reconocer y reproducir las emociones humanas, el documento requiere que se eval¨²en las implicaciones ¨¦ticas de estas relaciones, especialmente cuando se establecen con menores. ¡°La constante interacci¨®n con tecnolog¨ªa de inteligencia artificial, incluyendo los algoritmos sociales, podr¨ªan someter a ni?os y adultos a manipulaciones y consecuencias negativas para su salud mental¡±, contin¨²a Ramos. Por otra parte, se subraya la necesidad de que los individuos est¨¦n en todo momento informados de si est¨¢n tratando con uno de estos sistemas o son objeto de decisiones tomadas por ellos. Se pide tambi¨¦n que se establezcan mecanismos para acceder a las razones que gu¨ªan una decisi¨®n que afecta a los derechos o libertades de los usuarios, as¨ª como v¨ªas para impugnarla o solicitar una reevaluaci¨®n.

Otras materias incluidas en el marco de esta recomendaci¨®n son la protecci¨®n de la privacidad, la prevenci¨®n de los sesgos que puedan perjudicar al rendimiento de estos sistemas, la promoci¨®n de un entorno m¨¢s inclusivo en el sector responsable de desarrollar estas tecnolog¨ªas o incluso la reducci¨®n del impacto ambiental de estos sistemas. De acuerdo con un estudio publicado en la revista Nature, entrenar un algoritmo de inteligencia artificial puede producir cerca de 300.000 kilos de di¨®xido de carbono, lo que equivale a 125 vuelos de ida y vuelta entre Nueva York y Pek¨ªn.

Adem¨¢s, el documento que acaba de adoptar la Unesco exige que los gobiernos eduquen a sus ciudadanos en los derechos digitales que pretende proteger. ¡°Si educamos a una nueva generaci¨®n de consumidores digitales conscientes de sus derechos y con las habilidades de pensamiento cr¨ªtico necesarias para navegar la esfera digital, estaremos empoder¨¢ndoles para que exijan a las grandes tecnol¨®gicas a rendir cuentas y estaremos exigiendo que la IA sea desarrollada de forma humana y ¨¦tica¡±, sentencia Ramos.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.