?Sabes c¨®mo funcionan los algoritmos? Es la manera de saber si nos manipulan

En los comienzos de las redes sociales, escritores y periodistas de todo el mundo ensalzaban su poder mientras despertaba la Primavera ?rabe. Ahora, en la era de la covid-19, los expertos alertan contra la desinformaci¨®n sobre la pandemia o infodemia, que abunda en las redes sociales. ?Qu¨¦ ha cambiado en esta d¨¦cada? ?C¨®mo entendemos ahora el papel de las plataformas sociales y nos mantenemos alerta de los da?os que sus algoritmos perpetran?

Redes y activismo digital

Las redes promet¨ªan poder tener mejores conexiones y ampliar la velocidad, la escala y el alcance del activismo digital. Antes de que existieran, organizaciones y figuras p¨²blicas pod¨ªan usar los medios audiovisuales de masas, como la televisi¨®n, para difundir su mensaje al gran p¨²blico. Los medios de comunicaci¨®n eran los filtros que permit¨ªan difundir informaci¨®n con arreglo a unos criterios establecidos para decidir qu¨¦ noticias eran prioritarias y c¨®mo hab¨ªa que darlas. Al mismo tiempo, la comunicaci¨®n ciudadana, entre iguales, era m¨¢s informal y fluida. Las redes difuminan los l¨ªmites entre ambos tipos y ofrecen a los mejor relacionados la posibilidad de ser creadores de opini¨®n.

Hace 20 a?os no hab¨ªa medios capaces de concienciar y movilizar por una causa con la rapidez y la dimensi¨®n que proporcionan las redes, en las que, por ejemplo, la etiqueta #deleteuber (borra Uber) hizo que en un solo d¨ªa se eliminaran 200.000 cuentas de la aplicaci¨®n de transporte, acusada de ¡°frustrar¡± un paro contra el veto migratorio de Trump en 2017. Antes, para que el activismo ciudadano triunfara eran necesarios a?os de negociaciones entre empresas y activistas. Hoy, un solo tuit puede restar millones de d¨®lares al valor en Bolsa de una empresa o hacer que un gobierno cambie sus pol¨ªticas.

Hacia la radicalizaci¨®n

Aunque ese papel de creadores de opini¨®n permite un discurso c¨ªvico sin trabas que puede resultar positivo para el activismo pol¨ªtico, tambi¨¦n vuelve a las personas m¨¢s susceptibles a la desinformaci¨®n y la manipulaci¨®n. Los algoritmos en los que se basan las actualizaciones de noticias de las redes sociales est¨¢n dise?ados para una interacci¨®n constante, para conseguir la m¨¢xima participaci¨®n. La mayor¨ªa de las plataformas de grandes tecnol¨®gicas funcionan sin los filtros que controlan las fuentes tradicionales de informaci¨®n. Eso, unido a las grandes cantidades de datos que manejan estas empresas, les da un enorme control sobre c¨®mo llegan las noticias a los usuarios. Un estudio publicado en la revista Science en 2018 prob¨® que las informaciones falsas en redes se difunden m¨¢s r¨¢pido y llegan a m¨¢s gente que las verdaderas, a menudo porque las noticias que suscitan emociones nos seducen m¨¢s y, por tanto, tienen m¨¢s probabilidades de que las compartamos y de amplificarse a trav¨¦s de los algoritmos. Lo que vemos en nuestras redes, incluida la publicidad, est¨¢ pensado en funci¨®n de lo que hayamos dicho que nos gusta y de nuestras opiniones pol¨ªticas y religiosas. Esa personalizaci¨®n puede tener muchos efectos negativos para la sociedad, como la disuasi¨®n de votantes, la desinformaci¨®n dirigida a minor¨ªas o la publicidad orientada con criterios discriminatorios. El dise?o algor¨ªtmico de las plataformas de las grandes tecnol¨®gicas da prioridad a contenidos nuevos y microdirigidos, lo que desemboca en una proliferaci¨®n casi ilimitada de las desinformaciones y las teor¨ªas de la conspiraci¨®n. El director ejecutivo de Apple, Tim Cook, advirti¨® en enero: ¡°No podemos seguir ignorando una teor¨ªa de la tecnolog¨ªa que dice que cualquier forma de participaci¨®n es buena¡±. Estos modelos basados en la participaci¨®n tienen como consecuencia la radicalizaci¨®n del ciberespacio. Las redes proporcionan un sentido de identidad, un prop¨®sito y un v¨ªnculo. Quien publica teor¨ªas de la conspiraci¨®n y contribuye a la desinformaci¨®n comprende tambi¨¦n el car¨¢cter viral de las redes, donde los contenidos inquietantes generan m¨¢s participaci¨®n.

Las acciones coordinadas en redes pueden llegar a trastocar el funcionamiento colectivo de la sociedad, desde los mercados financieros hasta los procesos electorales. El peligro es que un fen¨®meno viral, acompa?ado de las recomendaciones de algoritmos y el efecto de caja de resonancia de las redes, acabe creando un ciclo de filtros burbuja que se retroalimenten y empujen a los usuarios a expresar ideas cada vez m¨¢s radicales.

Eduquemos sobre los algoritmos

Rectificar los sesgos algor¨ªtmicos y proporcionar mejor informaci¨®n a los usuarios contribuir¨ªa a mejorar la situaci¨®n. Algunos tipos de desinformaci¨®n pueden solucionarse con una mezcla de normas gubernamentales y autorregulaci¨®n para garantizar que se vigilen m¨¢s los contenidos y se identifiquen mejor las informaciones enga?osas. Para ello, las tecnol¨®gicas deben ponerse de acuerdo con los medios de comunicaci¨®n y utilizar un h¨ªbrido de inteligencia artificial y detecci¨®n de informaciones falsas, con la colaboraci¨®n colectiva de los usuarios. Una forma de resolver varios de estos problemas ser¨ªa utilizar mejores estrategias de detecci¨®n de sesgos y ofrecer m¨¢s transparencia sobre las recomendaciones del algoritmo.

Pero tambi¨¦n hace falta educar m¨¢s sobre las redes y los algoritmos: que los usuarios sepan hasta qu¨¦ punto la personalizaci¨®n y las recomendaciones dise?adas por las grandes tecnol¨®gicas configuran su ecosistema informativo, algo que la mayor¨ªa de la gente no tiene los conocimientos suficientes para comprender. Los adultos que se informan fundamentalmente a trav¨¦s de redes sociales est¨¢n menos al tanto de la pol¨ªtica y la actualidad, seg¨²n una encuesta del Pew Research Center en EEUU. En la era de la covid-19, el Foro Econ¨®mico Mundial habla de infodemia.

Es importante comprender de qu¨¦ modo las plataformas est¨¢n agudizando las divisiones que ya exist¨ªan, con la posibilidad de causar verdaderos perjuicios a los usuarios de los buscadores y las redes sociales. En mis investigaciones he descubierto que, dependiendo de c¨®mo proporcionan las plataformas sus respuestas a las b¨²squedas, un usuario con m¨¢s conocimientos en materia de salud tiene m¨¢s probabilidades de recibir consejos m¨¦dicos ¨²tiles de una instituci¨®n respetable como la Cl¨ªnica Mayo, mientras que la misma b¨²squeda, hecha por un usuario menos informado, le dirigir¨¢ hacia pseudoterapias o consejos m¨¦dicos enga?osos.

Las grandes empresas tecnol¨®gicas tienen un poder social sin precedentes. Sus decisiones sobre qu¨¦ conductas, palabras y cuentas autorizan y cu¨¢les no dominan miles de millones de interacciones privadas, influyen en la opini¨®n p¨²blica y afectan a la confianza en las instituciones democr¨¢ticas. Ya es hora de dejar de ver estas plataformas como meras entidades con ¨¢nimo de lucro y saber que tienen una responsabilidad p¨²blica. Necesitamos hablar del impacto de los omnipresentes algoritmos en la sociedad y ser m¨¢s conscientes de los da?os que pueden causar por nuestra dependencia excesiva de las grandes tecnol¨®gicas.

Anjana Susarla ocupa la c¨¢tedra OmuraSaxena de Inteligencia Artificial en el Eli Broad College of Business de la Universidad Estatal de M¨ªchigan.

Traducci¨®n de Mar¨ªa Luisa Rodr¨ªguez Tapia.