La nueva divisi¨®n digital est¨¢ entre los que rechazan los algoritmos y los que no
?Sabes lo que ocurre cuando compartes tus datos?
Los algoritmos de inteligencia artificial pueden guiar todos los aspectos de nuestra vida: desde elegir qu¨¦ ruta tomar por la ma?ana para llegar al trabajo hasta decidir con qui¨¦n quedar, o incluso complejas cuestiones legales y judiciales como la vigilancia policial predictiva.
Las grandes tecnol¨®gicas como Google y Facebook usan la IA para sacar conclusiones a partir del gigantesco tesoro de datos detallados obtenidos de los clientes. Esto les permite monetizar las preferencias colectivas de los usuarios mediante pr¨¢cticas como la microfocalizaci¨®n, una estrategia empleada por los anunciantes para centrarse en conjuntos de usuarios sumamente espec¨ªficos.
Al mismo tiempo, muchas personas conf¨ªan hoy en d¨ªa m¨¢s en las plataformas y en los algoritmos que en sus propios Gobiernos y en la sociedad civil. Un estudio publicado en octubre de 2018 da a entender que las personas demuestran ¡°aprecio por los algoritmos¡±, hasta el punto de que confiar¨ªan m¨¢s en un consejo si piensan que procede de un algoritmo y no de un humano.
En el pasado, a los expertos en tecnolog¨ªa les preocupaba la ¡°divisi¨®n digital¡± entre quienes ten¨ªan acceso a los ordenadores y a Internet y quienes carec¨ªan de dicho acceso. Las familias con menos acceso a las tecnolog¨ªas digitales est¨¢n en desventaja al tener menos capacidad de ganar dinero y acumular aptitudes.
Pero a medida que los dispositivos digitales proliferan, la divisi¨®n ya no radica en el acceso. ?C¨®mo abordan las personas la sobrecarga de informaci¨®n y la pl¨¦tora de decisiones algor¨ªtmicas que impregnan cada aspecto de su vida? Los usuarios m¨¢s entendidos se est¨¢n alejando de los dispositivos y est¨¢n adquiriendo conciencia de c¨®mo afectan los algoritmos a su vida. Por el contrario, los consumidores con menos informaci¨®n conf¨ªan a¨²n m¨¢s en los algoritmos para guiar sus decisiones.
El ingrediente secreto de la inteligencia artificial
La principal raz¨®n de la nueva divisi¨®n digital, en opini¨®n de alguien como yo que estudia los sistemas de informaci¨®n, es que son poqu¨ªsimos los usuarios que entienden c¨®mo funcionan los algoritmos. Para la mayor¨ªa, constituyen una especie de caja negra.
Los algoritmos de IA toman datos, los introducen en un modelo matem¨¢tico y efect¨²an una predicci¨®n, que var¨ªa desde qu¨¦ canciones podr¨ªan gustarle a cualquiera hasta cu¨¢ntos a?os deber¨ªa pasar alguien en la c¨¢rcel. Estos modelos se desarrollan y afinan bas¨¢ndose en datos pasados y en el ¨¦xito de modelos previos. La mayor¨ªa ¨Cincluso a veces los propios dise?adores de algoritmos¨C no sabe realmente qu¨¦ ocurre dentro del modelo.
A los investigadores les preocupa desde hace tiempo la equidad algor¨ªtmica. Por ejemplo, la herramienta de contrataci¨®n basada en la IA de Amazon pasaba por alto a las candidatas. El sistema de Amazon estaba extrayendo de manera selectiva palabras con un impl¨ªcito sesgo de g¨¦nero, palabras como ¡°ejecutado¡± y ¡°capturado¡±, que es m¨¢s probable que usen los hombres en el discurso cotidiano.?Otros estudios han demostrado que los algoritmos judiciales presentan un sesgo racista, condenando a los acusados pobres de raza negra a sentencias m¨¢s largas.
Los usuarios m¨¢s entendidos se est¨¢n alejando de los dispositivos y est¨¢n adquiriendo conciencia de c¨®mo afectan los algoritmos a su vida. Por el contrario, los consumidores con menos informaci¨®n conf¨ªan a¨²n m¨¢s en los algoritmos para guiar sus decisiones
Como parte de la Normativa General de Protecci¨®n de Datos en la Uni¨®n Europea, la poblaci¨®n tiene ¡°derecho a la explicaci¨®n¡± de los criterios que los algoritmos emplean en sus decisiones. Esta legislaci¨®n trata el proceso de toma de decisiones algor¨ªtmica como un libro de recetas. La idea es que, si entendemos la receta, podremos entender c¨®mo afecta el algoritmo a nuestras vidas.
Por otro lado, algunos investigadores de IA han exigido la creaci¨®n de algoritmos equitativos, responsables y transparentes, adem¨¢s de interpretables, es decir, que tomen sus decisiones mediante procedimientos que los humanos puedan entender y en los que puedan confiar.
?Qu¨¦ efecto tendr¨¢ la transparencia? Existe un estudio en el que un algoritmo calificaba a estudiantes y les ofrec¨ªa diferentes niveles de explicaci¨®n acerca de c¨®mo se ajustaban las notas de sus compa?eros para obtener una calificaci¨®n final. Los estudiantes con explicaciones m¨¢s transparentes se fiaban de hecho menos del algoritmo. Una vez m¨¢s, esto apunta a una nueva divisi¨®n digital: la conciencia algor¨ªtmica no produce una mayor confianza en el sistema.
Pero la transparencia no es la panacea. Aunque se describiese todo el proceso de un algoritmo, los detalles podr¨ªan seguir siendo demasiado complejos para los usuarios. La transparencia ayudar¨¢ solo a aquellos suficientemente entendidos como para captar las complejidades de los algoritmos.
En 2014, por ejemplo, a Ben Bernanke, ex presidente de la Reserva Federal estadounidense, un sistema automatizado le deneg¨® inicialmente la refinanciaci¨®n de una hipoteca. La mayor¨ªa de las personas que solicitan dicha refinanciaci¨®n hipotecaria no entiende c¨®mo determinan los algoritmos su solvencia.
Salirse del nuevo ecosistema de informaci¨®n
A pesar de que los algoritmos influyen tanto en la vida de las personas, solo una diminuta fracci¨®n de los participantes es suficientemente entendida como para comprender plenamente de qu¨¦ manera afectan los algoritmos a la vida de cada uno.
No hay muchas estad¨ªsticas acerca del n¨²mero de personas conscientes de los algoritmos. Algunos estudios han encontrado pruebas de la ansiedad algor¨ªtmica, que conduce a un profundo desequilibrio de poder entre las plataformas que despliegan los algoritmos y los usuarios que conf¨ªan en ellos.
Un estudio sobre el uso de Facebook conclu¨ªa que cuando a los participantes se les mostraba el algoritmo de Facebook para escoger las noticias que muestra, aproximadamente el 83% de los participantes modificaba su comportamiento para intentar sacar provecho del algoritmo, mientras que aproximadamente el 10% disminu¨ªa su uso de Facebook.
Un informe publicado en noviembre de 2018 por el Pew Research Center conclu¨ªa que una amplia mayor¨ªa de la poblaci¨®n estaba significativamente preocupada por la utilizaci¨®n de los algoritmos para usos particulares. Hall¨® que el 66% consideraba injusto que los algoritmos calculen los ingresos personales, mientras que el 57% respond¨ªa lo mismo acerca de la revisi¨®n autom¨¢tica de curr¨ªculos.
Una peque?a fracci¨®n de individuos ejerce alg¨²n control sobre el uso que los algoritmos hacen de sus datos personales. Por ejemplo, la plataforma Hu-Manity ofrece a los usuarios una opci¨®n para controlar cu¨¢ntos datos suyos se recopilan. La enciclopedia digital Everipedia ofrece a los usuarios la capacidad de participar en el proceso de gesti¨®n, lo que significa que pueden tambi¨¦n controlar c¨®mo se agrega la informaci¨®n y c¨®mo se les presenta.
Sin embargo, la enorme mayor¨ªa de las plataformas no proporciona esa flexibilidad a sus usuarios finales ni el derecho a elegir c¨®mo usa el algoritmo sus preferencias para administrar las noticias o para recomendarles contenido. Si hay opciones, es posible que los usuarios las desconozcan. Aproximadamente el 74% de los usuarios de Facebook admit¨ªa en una encuesta que desconoc¨ªan c¨®mo caracteriza la plataforma sus intereses personales.
En mi opini¨®n, la nueva alfabetizaci¨®n digital no consiste en utilizar un ordenador o en usar Internet, sino en entender y evaluar las consecuencias que tiene un estilo de vida siempre conectado.
Este estilo de vida tiene un impacto significativo en la manera en que las personas interact¨²an; en su capacidad para prestar atenci¨®n a nueva informaci¨®n; y en la complejidad de sus procesos de toma de decisiones.
Es posible que la creciente ansiedad algor¨ªtmica se refleje tambi¨¦n en cambios paralelos de la econom¨ªa. Un peque?o grupo de individuos se est¨¢ quedando con los beneficios proporcionados por la automatizaci¨®n, mientras que muchos trabajadores est¨¢n en una posici¨®n precaria.
Salirse de la gesti¨®n algor¨ªtmica es un lujo, y podr¨ªa alg¨²n d¨ªa convertirse en s¨ªmbolo de una riqueza al alcance exclusivamente de un grupo selecto. La cuesti¨®n es entonces cu¨¢les son los perjuicios medibles para los que est¨¢n en el lado equivocado de la divisi¨®n digital.
Aprenda a rechazar
?Quiere controlar los algoritmos que gu¨ªan su vida? Pruebe los siguientes pasos.
?1. Entienda la recomendaci¨®n de un algoritmo y ev¨ªtela.?La gesti¨®n algor¨ªtmica se basa por lo general en el atractivo del contenido. Intente aprender m¨¢s acerca de por qu¨¦ est¨¢ usted viendo lo que ve. Por ejemplo, Facebook tiene una prestaci¨®n denominada '?Por qu¨¦ estoy viendo esto?' Una extensi¨®n de Chrome, DF Tube, reduce una p¨¢gina de YouTube al m¨ªnimo posible, eliminando las recomendaciones de nuevos videos.
2. Adquiera conciencia algor¨ªtmica.?Aprenda sobre la econom¨ªa de la informaci¨®n actual. Lea libros como Armas de destrucci¨®n matem¨¢tica de Cathy O¡¯Neil y The Black Box Society: The Secret Algorithms That Control Money and Information de Frank Pasquale.
3 Aprenda a controlar sus datos.Adquiera cierta responsabilidad digital y aprenda qu¨¦ compartir y qu¨¦ no compartir en Internet. Tambi¨¦n podr¨ªa tomar medidas para descubrir qu¨¦ saben ya de usted las redes sociales
Anjana Susarla?es profesora asociada de Sistemas de Informaci¨®n en la Universidad Estatal de Michigan.
Este art¨ªculo fue publicado originalmente en ingl¨¦s por The Conversation. Traducci¨®n de NewsClips.
Tu suscripci¨®n se est¨¢ usando en otro dispositivo
?Quieres a?adir otro usuario a tu suscripci¨®n?
Si contin¨²as leyendo en este dispositivo, no se podr¨¢ leer en el otro.
FlechaTu suscripci¨®n se est¨¢ usando en otro dispositivo y solo puedes acceder a EL PA?S desde un dispositivo a la vez.
Si quieres compartir tu cuenta, cambia tu suscripci¨®n a la modalidad Premium, as¨ª podr¨¢s a?adir otro usuario. Cada uno acceder¨¢ con su propia cuenta de email, lo que os permitir¨¢ personalizar vuestra experiencia en EL PA?S.
En el caso de no saber qui¨¦n est¨¢ usando tu cuenta, te recomendamos cambiar tu contrase?a aqu¨ª.
Si decides continuar compartiendo tu cuenta, este mensaje se mostrar¨¢ en tu dispositivo y en el de la otra persona que est¨¢ usando tu cuenta de forma indefinida, afectando a tu experiencia de lectura. Puedes consultar aqu¨ª los t¨¦rminos y condiciones de la suscripci¨®n digital.
