Bruselas obligar¨¢ a que un juez autorice el uso de reconocimiento facial y solo para casos concretos

Bruselas se propone acelerar la inversi¨®n en inteligencia artificial en Europa, pero no a cualquier precio. La UE no quiere perder m¨¢s terreno respecto a Estados Unidos y China y movilizar¨¢ al menos 20.000 millones de euros a lo largo de la pr¨®xima d¨¦cada con el objetivo de intensificar la digitalizaci¨®n de la industria, la energ¨ªa o la salud. Sin embargo, la Comisi¨®n Europea pondr¨¢ l¨ªmites estrictos a aplicaciones como el reconocimiento facial en tiempo real y en lugares p¨²blicos. La vicepresidenta ejecutiva del Ejecutivo comunitario, Margrethe Vestager, ha advertido de que esa tecnolog¨ªa estar¨¢ ¡°en principio prohibida¡± y solo se abrir¨¢ la mano en casos ¡°extremos¡±, al considerar que los riesgos que conlleva son ¡°inaceptables¡±.

La Comisi¨®n Europea ha lanzado este mi¨¦rcoles un paquete sobre inteligencia artificial tras un intenso debate que arranc¨® hace ya tres a?os. ¡°No estamos regulando la tecnolog¨ªa, sino su uso. Y lo hacemos buscando un enfoque equilibrado entre la confianza, la excelencia y los valores europeos¡±, explica una alta funcionaria comunitaria. Bruselas, que destinar¨¢ el 20% de los fondos de recuperaci¨®n a la transici¨®n tecnol¨®gica, quiere atar corto el empleo de una tecnolog¨ªa que puede permitir dar un salto enorme, por ejemplo, en el diagn¨®stico de las enfermedades, pero cuyo empleo tambi¨¦n puede amenazar las libertades de los ciudadanos.

En el punto de mira est¨¢n sobre todo las aplicaciones para el reconocimiento facial remoto, que gener¨® una gran controversia a ra¨ªz de su uso por parte de las autoridades en las movilizaciones de Hong Kong. No es lo mismo el reconocimiento facial para identificarse para acceder al m¨®vil que ser capturado por una aplicaci¨®n en la calle en tiempo real. La Comisi¨®n, que de entrada era muy reacia a ese uso, quer¨ªa estudiar detenidamente si pod¨ªa hacer alg¨²n tipo de excepci¨®n. Ha decidido que lo har¨¢, pero se tratar¨¢ de casos ¡°extremos¡±, en palabras de Vestager. Es decir, solo se podr¨¢ usar con una autorizaci¨®n judicial previa y en casos muy determinados: b¨²squedas de v¨ªctimas o autores de cr¨ªmenes, ni?os desaparecidos o si hay ataques terroristas. Son salvedades. La regla general es, en cualquier caso, su prohibici¨®n.

Al margen de esa aplicaci¨®n, el Ejecutivo comunitario ha optado por una regulaci¨®n consistente en una graduaci¨®n de los riesgos de la inteligencia artificial en cuatro categor¨ªas: inaceptables, altos, limitados y m¨ªnimos. Dentro de los que Bruselas considera intolerables est¨¢n todos aquellos que pueden suponer una violaci¨®n de los derechos fundamentales, entre los cuales hay la tentaci¨®n de los pa¨ªses de crear una especie de ¡°puntuaci¨®n social¡± construida con su historial de deudas, condenas o multas. Esa pr¨¢ctica, as¨ª como el resto que se considere que son inaceptables, estar¨¢ prohibida en la UE.

En el caso de las empresas que desarrollen tecnolog¨ªa que pongan en un riesgo elevado los derechos fundamentales, la Comisi¨®n pedir¨¢ la m¨¢xima transparencia, documentaci¨®n t¨¦cnica y garant¨ªas sobre ciberseguridad, entre otras cosas. Los criterios ser¨¢n m¨¢s relajados en el caso de que el riesgo sea limitado ¨Cpor ejemplo, el uso de chatbots¡ª, mientras que no habr¨¢ restricciones para las actividades que Bruselas cree que no amenazan los derechos de sus ciudadanos. Fuentes comunitarias explican que la regulaci¨®n se ha basado en necesidad de evitar la fragmentaci¨®n del mercado ¨²nico, por lo que se ha centrado en el uso civil de esas tecnolog¨ªas y ha dejado fuera las aplicaciones militares.

Coordinaci¨®n entre pa¨ªses

Como en todas las ocasiones en las que Bruselas exhibe su m¨²sculo regulador, las grandes tecnol¨®gicas hab¨ªan intensificado en las ¨²ltimas semanas sus presiones sobre el Ejecutivo comunitario al temer que este pudiera ahogar la innovaci¨®n. Bruselas cree, no obstante, que la amenaza era la contraria si no actuaba: que a causa de los riesgos que conlleva esa tecnolog¨ªa, algunos socios hubieran decidido prohibirla directamente. ¡°Seremos el primer continente en dar unas orientaciones, por lo que estamos diciendo que si alguien quiere desarrollar esa tecnolog¨ªa venga a Europa¡±, ha afirmado el comisario de Mercado Interior, Thierry Breton.

Bruselas crear¨¢ un Consejo Europeo de Inteligencia Artificial que deber¨¢ supervisar todas esas actividades. El cumplimiento de la normativa deber¨¢ ser controlado, sin embargo, por las autoridades nacionales. En caso de incumplimiento de esas reglas, las empresas pueden ser sancionadas con una multa de hasta 20 millones de euros o el 4% de la facturaci¨®n mundial de la compa?¨ªa. Pero tambi¨¦n ah¨ª Bruselas prev¨¦ una graduaci¨®n. La propuesta deber¨¢ ser adoptada ahora por el Parlamento Europeo y el Consejo de la UE, el ¨®rgano en el que est¨¢n representados los 27 socios del club comunitario.

El paquete aprobado por la Comisi¨®n tambi¨¦n contempla un plan coordinado sobre inteligencia artificial de los Veintisiete. De hecho, 19 pa¨ªses (entre ellos, Espa?a) han aprobado ya sus planes nacionales, por lo que la Comisi¨®n quiere canalizar los recursos hacia siete grandes ¨¢reas. Dos de ellas responden a las grandes prioridades del momento: el Pacto Verde y la lucha contra la pandemia. Bruselas ha trazado otras cinco grandes actividades: el sector p¨²blico, la rob¨®tica, la movilidad, agricultura y asuntos interiores. El Ejecutivo comunitario prev¨¦ dos v¨ªas de financiaci¨®n: el plan de recuperaci¨®n, con 134.000 millones dedicados al sector digital, y el programa Horizonte Europa, con el que pretende movilizar hasta 20.000 millones de euros.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter.