Las prisas en la carrera de la inteligencia artificial arrollan la ¨¦tica empresarial

Ya ha pasado un a?o desde la entrada en vigor del Reglamento General de Protecci¨®n de Datos ¡ªel famoso RGPD¡ª, que promet¨ªa blindar nuestra privacidad en internet frente a los abusos empresariales en el entorno digital. En teor¨ªa, hemos sido part¨ªcipes de una revoluci¨®n en la gesti¨®n de la informaci¨®n durante esta nueva era. Pero, en la pr¨¢ctica¡­ ?Hemos notado algo en la pr¨¢ctica? Lo cierto es que las sanciones europeas que hemos visto durante este primer a?o han sido puntuales y aisladas. ?Ser¨¢ cuesti¨®n de tiempo que veamos m¨¢s y mayores castigos o es que las empresas est¨¢n empezando a portarse bien?

En caso de que sea esto ¨²ltimo, todav¨ªa les queda bastante camino por recorrer. Seg¨²n el informe Why addressing ethical questions in will benefit organizations, llevado a cabo por la consultora Capgemini, nueve de cada diez directivos ¡ªconcretamente, el 86% de ellos¡ª reconocen haber visto usos ¨¦ticamente cuestionables de inteligencia artificial en su empresa en los dos o tres ¨²ltimos a?os. Las encuestas a 1.580 altos cargos de grandes empresas para la realizaci¨®n de este informe desvelaron que, entre las pr¨¢cticas m¨¢s cuestionables que realizan las grandes corporaciones, destacan el uso de datos de clientes sin su consentimiento o la excesiva dependencia de la anal¨ªtica de datos en la toma de decisiones, sobre todo en el sector bancario.

Para los directivos, la principal raz¨®n para que esto suceda es la presi¨®n para implementar soluciones de inteligencia artificial en su compa?¨ªa, una presi¨®n que suele venir motivada por la urgencia de obtener ventaja frente a sus competidores en un ecosistema en el que el pez m¨¢s r¨¢pido se come al lento. En este contexto, las empresas pueden incrementar el ritmo de la innovaci¨®n en detrimento de las consideraciones ¨¦ticas inherentes al tratamiento de grandes vol¨²menes de informaci¨®n.

M¨¢s informaci¨®n

?Saben las empresas qu¨¦ hacer con tantos datos?

?Algoritmos machistas o racistas? Esta es una misi¨®n para 600 superh¨¦roes

Siguiendo este razonamiento, no es de extra?ar que entre los siguientes motivos que citan los encuestados para explicar los usos cuestionables que hacen sus empresas de la inteligencia artificial se encuentren la falta de recursos para construir sistemas que tengan en cuenta cuestiones de privacidad o la posible existencia de sesgos en los algoritmos o, directamente, la ausencia de una perspectiva ¨¦tica en el desarrollo de estos sistemas.

¡°El principal problema es que muchas personas quieren aplicar ciertos m¨¦todos solo porque est¨¢ de moda, pero no entienden realmente en qu¨¦ consisten y no saben si est¨¢n alineados con el problema de negocio ni c¨®mo han sido entrenados¡±, critica Diego Miranda-Saavedra, cient¨ªfico de datos y profesor de la Universitat Oberta de Cataluya. ¡°La dependencia de la analitica de datos, por ejemplo, puede darse en estas circunstancias, cuando est¨¢s vendido porque no entiendes bien lo que est¨¢s haciendo. Cuando dependes del ordenador y no es este quien depende de ti¡±.

Para este docente, el reto al que se enfrentan las empresas a la hora de eliminar los sesgos presentes en los algoritmos tambi¨¦n se acrecienta por este motivo y apunta que la falta de comprensi¨®n a la hora de definir los sistemas inteligentes puede alejarlas de este prop¨®sito. ¡°Para combatir estos sesgos es necesario sentarse a pensar con papel y l¨¢piz¡±, apunta. ¡°Por desgracia, esto es contrario a la corriente actual por la que mucha gente piensa que todo consiste en apretar un bot¨®n y ya est¨¢, que es posible modificar cosas complejas sin llegar a entenderlas en profundidad¡±.

Muchos quieren aplicar ciertos m¨¦todos solo porque est¨¢ de moda, sin entender en qu¨¦ consisten o si est¨¢n alineados con el problema de negocio

Diego Miranda-Saavedra, cient¨ªfico de datos y profesor de la Universitat Oberta de Cataluya

Mois¨¦s Barrio, letrado del Consejo de Estado, profesor y experto en ciberderecho, considera que, al hablar de incumplimiento de normativas, no existe un problema de falta de regulaci¨®n de la inteligencia artificial que s¨ª est¨¢ presente en otros contextos, como en el desarrollo del coche aut¨®nomo. No obstante, opina que, pese a que la protecci¨®n de datos es un derecho fundamental en la Uni¨®n Europea desde hace cerca de 20 a?os, el sistema actual no termina de proteger a los ciudadanos como deber¨ªa.

¡°El modelo en la pr¨¢ctica es de aviso y consentimiento y concluye que la privacidad se pierde una vez que la informaci¨®n es revelada voluntariamente¡±, resume. ¡°Este r¨¦gimen pudo funcionar antes, pero no ahora, en un entorno en el que la desnudez constante es el precio de la admisi¨®n en los servicios digitales¡±.

La soluci¨®n que propone Barrio pasa por reforzar los controles p¨²blicos para asegurar que se cumple la normativa. Incluso va un paso m¨¢s all¨¢ e indica que tendr¨ªa sentido reconfigurar el modelo en un nuevo paradigma en el que se establezca una relaci¨®n m¨¢s fuerte entre privacidad y confianza. ¡°El usuario controlar¨ªa en tiempo real el acceso y el uso de sus datos por medio de un sistema que se completar¨ªa con tecnolog¨ªa blockchain para mantener en todo momento la soberan¨ªa del usuario sobre sus datos¡±, plantea.