El algoritmo y sus descontentos

En una nueva demanda legal en EE UU contra Meta, 41 Estados y el Distrito de Columbia sostienen que dos redes sociales de la empresa (Instagram y Facebook) no s¨®lo son adictivas, sino tambi¨¦n perjudiciales para el bienestar de los menores. Se acusa a Meta de poner en pr¨¢ctica un ¡°esquema para explotar a j¨®venes usuarios con fines de lucro¡±, que incluye mostrarles contenido nocivo que los mantiene pegados a sus pantallas. El uso de algoritmos pensados para maximizar la vinculaci¨®n de los usuarios es el modo que tienen las...

En una nueva demanda legal en EE UU contra Meta, 41 Estados y el Distrito de Columbia sostienen que dos redes sociales de la empresa (Instagram y Facebook) no s¨®lo son adictivas, sino tambi¨¦n perjudiciales para el bienestar de los menores. Se acusa a Meta de poner en pr¨¢ctica un ¡°esquema para explotar a j¨®venes usuarios con fines de lucro¡±, que incluye mostrarles contenido nocivo que los mantiene pegados a sus pantallas. El uso de algoritmos pensados para maximizar la vinculaci¨®n de los usuarios es el modo que tienen las tecnol¨®gicas de maximizar el valor para los accionistas, con el resultado de que las ganancias a corto plazo suelen imponerse a los objetivos empresariales a largo plazo.

Facebook comenz¨® como un servicio b¨¢sico para conectar a amigos y conocidos en internet, pero con el tiempo su dise?o evolucion¨® de la satisfacci¨®n de las necesidades y preferencias de los usuarios a mantenerlos dentro de la plataforma y alejados de las otras. En pos de este objetivo, la empresa desestim¨® una y otra vez las preferencias expl¨ªcitas de los consumidores en relaci¨®n con la clase de contenido que desean ver, la privacidad y el uso compartido de sus datos.

La primac¨ªa de las ganancias inmediatas implica inducir a los usuarios a hacer clic, incluso si el resultado general de esta estrategia es dar prioridad a materiales sensacionalistas de baja calidad, en vez de dar su debida recompensa a un universo m¨¢s amplio de creadores de contenido, usuarios y anunciantes. A estas ganancias las denominamos ¡°rentas algor¨ªtmicas de la atenci¨®n¡±, porque se generan mediante una posesi¨®n pasiva (como la de los terratenientes) en vez de una actividad productiva orientada a satisfacer las necesidades de los consumidores.

La identificaci¨®n de comportamientos rentistas en la econom¨ªa actual exige comprender de qu¨¦ manera las plataformas dominantes explotan el control algor¨ªtmico que tienen sobre los usuarios. Un algoritmo que degrada la calidad del contenido que promueve est¨¢ abusando de la confianza de los usuarios y de la posici¨®n dominante reforzada por el efecto red. Es as¨ª como Facebook, Twitter e Instagram pueden salirse con la suya y seguir llenando sus p¨¢ginas de anuncios y contenido adictivo recomendado.

La demanda contra Meta tiene que ver, en definitiva, con sus pr¨¢cticas algor¨ªtmicas, dise?adas para maximizar la vinculaci¨®n de los usuarios: mantenerlos en la plataforma por m¨¢s tiempo y provocar m¨¢s comentarios, likes y republicaciones. Suele ocurrir que un buen modo de lograrlo sea exhibir contenido nocivo y lindante con lo ilegal, y convertir el tiempo pasado en la plataforma en una actividad compulsiva, mediante funciones como el desplazamiento infinito y el env¨ªo incesante de notificaciones y alertas.

Ahora que los avances en inteligencia artificial (IA) comienzan a potenciar las recomendaciones algor¨ªtmicas y hacerlas incluso m¨¢s adictivas, se necesitan con urgencia nuevas estructuras de gobernanza orientadas al bien com¨²n (en vez de a una estrecha idea de valor para los accionistas) y alianzas simbi¨®ticas entre las empresas, los gobiernos y la sociedad civil. Afortunadamente, est¨¢ dentro del alcance de las autoridades reformar estos mercados para ponerlos al servicio del bien com¨²n.

En primer lugar, en vez de apelar exclusivamente a la legislaci¨®n antimonop¨®lica y de defensa de la competencia, las autoridades deben adoptar herramientas tecnol¨®gicas que impidan a las plataformas encerrar a los usuarios y a los desarrolladores. Un modo de evitar la creaci¨®n de recintos cerrados anticompetitivos es exigir la portabilidad e interoperabilidad de datos entre servicios digitales, para que los usuarios puedan pasar f¨¢cilmente de una plataforma a otra si aquella en la que est¨¢n no satisface sus necesidades y preferencias. En segundo lugar, es esencial una reforma de la gobernanza corporativa, ya que lo que llev¨® a las plataformas a la explotaci¨®n algor¨ªtmica de los usuarios fue el principio de maximizaci¨®n del valor para los accionistas. En vista de los conocidos costes sociales de este modelo de negocio, la reforma de la gobernanza exige una reforma de los algoritmos.

Un primer paso hacia la creaci¨®n de un modelo b¨¢sico m¨¢s saludable es exigir que las plataformas revelen los indicadores a cuya optimizaci¨®n apuntan los algoritmos, as¨ª como el modo en que monetizan a los usuarios. En un mundo donde los ejecutivos de las tecnol¨®gicas van todos los a?os a Davos a hablar del ¡°prop¨®sito¡± social de sus empresas, una publicaci¨®n de datos fidedigna los presionar¨¢ a cumplir lo que dicen y ayudar¨¢ a reguladores e inversores a distinguir entre ganancias merecidas y rentas indebidas.

En tercer lugar, los usuarios deben tener m¨¢s influencia sobre el modo en que los algoritmos priorizan la informaci¨®n que se les muestra. De lo contrario, el desd¨¦n por las preferencias de los usuarios seguir¨¢ causando da?o, al crear los algoritmos ciclos de retroalimentaci¨®n propios en los que inducen a los usuarios a hacer clic en determinados contenidos y despu¨¦s infieren err¨®neamente que esas son sus preferencias.

En cuarto lugar, la metodolog¨ªa de ¡°prueba A/B¡±, est¨¢ndar en la industria, debe dar paso a evaluaciones de impacto a largo plazo m¨¢s integrales. El uso deficiente de la ciencia de datos lleva al cortoplacismo algor¨ªtmico. Por ejemplo, una ¡°prueba A/B¡± puede mostrar que aumentar la cantidad de anuncios en pantalla tendr¨¢ un efecto positivo a corto plazo sobre las ganancias sin provocar un deterioro evidente en la retenci¨®n de usuarios; pero esto supone pasar por alto el impacto sobre la adquisici¨®n de usuarios nuevos, por no hablar de casi todos los otros efectos potencialmente nocivos a largo plazo. La ciencia de datos bien usada muestra que optimizar los sistemas de recomendaci¨®n de tal modo que no se busque una recompensa inmediata es la mejor manera que tienen las empresas para reforzar el crecimiento y la rentabilidad a largo plazo. En 2020, un equipo dentro de Meta determin¨® que en un horizonte temporal m¨¢s largo (un a?o), reducir la cantidad de notificaciones intrusivas mejorar¨ªa la utilizaci¨®n de las aplicaciones y la satisfacci¨®n de los usuarios.

En quinto lugar, hay que poner en acci¨®n una IA p¨²blica para evaluar la calidad de los resultados de los algoritmos, en particular en el ¨¢rea de la publicidad. En vista de los considerables perjuicios que supone la flexibilizaci¨®n de los criterios de aceptaci¨®n de anuncios por parte de las plataformas, la autoridad brit¨¢nica encargada del control de la publicidad comenzar¨¢ a usar herramientas de IA para analizar los anuncios e identificar a los que formulen ¡°afirmaciones dudosas¡±.

Crear un entorno digital que recompense la creaci¨®n de valor a partir de la innovaci¨®n y castigue la extracci¨®n rentista de valor es el desaf¨ªo econ¨®mico fundamental de nuestros tiempos. Para preservar la salud de los usuarios de las grandes tecnol¨®gicas y de la totalidad del ecosistema hay que evitar que los algoritmos est¨¦n supeditados al af¨¢n de ganancias inmediatas de los accionistas. Si los directivos de las empresas realmente creen en el principio de valor para las partes interesadas, deben aceptar que es necesario un cambio radical en el modo de crear valor, sobre la base de los cinco principios detallados antes. El juicio inminente contra Meta no puede deshacer los errores del pasado. Pero mientras nos preparamos para la pr¨®xima generaci¨®n de productos de IA, tenemos que instituir mecanismos para una correcta vigilancia de los algoritmos.

Sigue toda la informaci¨®n de Econom¨ªa y Negocios en Facebook y X, o en nuestra newsletter semanal