Barcelona se compromete a usar la inteligencia artificial de manera ¨¦tica

El Ayuntamiento de Barcelona pondr¨¢ en marcha veinte medidas para garantizar que los algoritmos de inteligencia artificial (IA) que utiliza y los que vendr¨¢n en el futuro funcionen con un ¡°compromiso ¨¦tico¡± hacia los ciudadanos. La Comisi¨®n de Innovaci¨®n Digital debatir¨¢ este mi¨¦rcoles un documento que prev¨¦ la creaci¨®n de un registro p¨²blico de algoritmos, gracias al que los ciudadanos podr¨¢n consultar c¨®mo toman las decisiones los programas inform¨¢ticos municipales. El texto incluye tambi¨¦n la puesta en marcha de un comit¨¦ asesor externo y un estudio para determinar cu¨¢les son los procesos administrativos que se pueden ver beneficiados por la IA.

El uso de la inteligencia artificial en el Ayuntamiento es a¨²n ¡°incipiente¡±, pero ya cuenta con algunas pruebas piloto en la ciudad, como el procesamiento de los datos que captan las c¨¢maras t¨¦rmicas en las playas. ¡°Han permitido garantizar el cumplimiento de las restricciones de aforo vinculadas a la covid¡±, recoge el documento de la medida. Otro caso es el de la clasificaci¨®n autom¨¢tica de quejas y sugerencias enviadas por los ciudadanos en el buz¨®n electr¨®nico del Consistorio.

El debate p¨²blico de la medida municipal coincide con el d¨ªa en que que la Comisi¨®n Europea tiene previsto anunciar su estrategia para regular la inteligencia artificial para garantizar la privacidad de los ciudadanos. Otro riesgo de los sistemas de aprendizaje autom¨¢ticos son la toma de decisiones con ¡°sesgos sociales (de g¨¦nero, raza, renta¡­)¡±, alerta el Consistorio, que solo contempla el uso de la IA de manera que sirva para mejorar la gesti¨®n de pol¨ªticas p¨²blicas, en l¨ªnea con la idea del ¡°humanismo tecnol¨®gico¡±.

Las actuaciones que plantea el Ayuntamiento se quieren desplegar antes de 2023. Que un humano supervise los algoritmos, que los ciudadanos tengan acceso al c¨®digo de los programas y un programa de formaci¨®n interna a los empleados municipales son otros puntos del informe.

El texto tambi¨¦n explica que el Ayuntamiento promover¨¢ la creaci¨®n del Observatorio Internacional de Inteligencia Artificial Urbana, con la colaboraci¨®n del think tank CIDOB.