¡°Al regular la inteligencia artificial, debemos colocar raza y g¨¦nero en el centro del debate¡±

Una de las investigaciones m¨¢s recientes impulsadas por la brasile?a Fernanda K. Martins (32 a?os, Tapero¨¢, Para¨ªba) lleg¨® a la conclusi¨®n de que plataformas como Spotify recomiendan al usuarios m¨¢s artistas hombres que mujeres, independientemente de g¨¦nero musical que el usuario busque. Es lo que los acad¨¦micos llaman discriminaci¨®n algor¨ªtmica. Parece l¨®gico que esta antrop¨®loga llevara sus investigaciones sobre g¨¦nero y raza a Internet, probablemente el universo m¨¢s desafiante de nuestro tiempo, en vis...

Una de las investigaciones m¨¢s recientes impulsadas por la brasile?a Fernanda K. Martins (32 a?os, Tapero¨¢, Para¨ªba) lleg¨® a la conclusi¨®n de que plataformas como Spotify recomiendan al usuarios m¨¢s artistas hombres que mujeres, independientemente de g¨¦nero musical que el usuario busque. Es lo que los acad¨¦micos llaman discriminaci¨®n algor¨ªtmica. Parece l¨®gico que esta antrop¨®loga llevara sus investigaciones sobre g¨¦nero y raza a Internet, probablemente el universo m¨¢s desafiante de nuestro tiempo, en vista de que Brasil es uno de los pa¨ªses m¨¢s hiperconectados del mundo. Martins es directora de Internet Lab, un respetado centro de investigaci¨®n interdisciplinar sobre ese espacio donde confluyen Internet y el derecho y participante activo en los debates que de ah¨ª derivan.

Martins, que es hija de una mujer negra e ind¨ªgena y de un hombre blanco, ten¨ªa nueve a?os cuando la sequ¨ªa y la desigualdad llevaron a toda la familia a emigrar a S?o Paulo. Vivi¨® en la favela de Brasilandia hasta que se mud¨® al exclusivo barrio de Jardins, donde su padre es portero. Y recuerda n¨ªtidamente el instante cuando se descubri¨® negra. ¡°Fue el d¨ªa que pronuncie la frase ¡®vosotros los negros¡­¡¯ y un profesor me respondi¨®: ¡®?C¨®mo vosotros? ?Y t¨²?¡±.

Pregunta. Cada brasile?o navega en Internet 9 horas y 32 minutos al d¨ªa, es decir, solo por detr¨¢s de Sud¨¢frica y tres horas por encima de la media mundial. ?A qu¨¦ obedece esa hiperconexi¨®n?

Respuesta. La vanidad, la imagen, est¨¢n muy presentes en la cultura popular. Por nuestra ascendencia ind¨ªgena, el cuerpo es muy importante, y estamos muy acostumbrados al cari?o e Internet cumple un rol de conexi¨®n. Por ejemplo, entre las poblaciones hist¨®ricamente marginadas. Quisimos entender c¨®mo ven Internet los ind¨ªgenas y las personas negras que entraron a las universidades a trav¨¦s de cuotas y nos contaron que fue importante en aquella ¨¦poca en la que a menudo eran el ¨²nico [no blanco] entre una mayor¨ªa blanca. Accedemos mucho a Internet, pero de manera muy desigual y muy concentrada. Las operadoras ofrecen gratis en Brasil algunas aplicaciones como WhatsApp. Y entre las poblaciones m¨¢s vulnerables existe el convencimiento de que Internet son esas aplicaciones. No hay un espacio para que la gente entienda qu¨¦ Internet quieren construir. Por eso, cuanto m¨¢s fortalecemos estas grandes plataformas, menos espacio encontramos para la innovaci¨®n y la creatividad.

P. ?C¨®mo es su relaci¨®n personal con la red? ?Constructiva? ?Mejorable? ?Se pone l¨ªmites?

R. Intensa. Viniendo de una escuela p¨²blica, no me ense?aron en clase, fui autodidacta. Empec¨¦ a navegar a los 10-11 a?os en un ordenador que compr¨® mi hermano mayor. Entonces ten¨ªa colegas que no sab¨ªan enchufarlo ni qu¨¦ se pod¨ªa hacer con una computadora. ?Me pongo l¨ªmites? Me he educado. Cuando saco al perro, voy sin m¨®vil. Internet produce esa sensaci¨®n de estar siempre acompa?ado pero agrava la soledad porque est¨¢s pero no est¨¢s.

P. Cuente m¨¢s de esa investigaci¨®n sobre los algoritmos que refuerzan la desigualdad.

R. La investigaci¨®n naci¨® en un equipo interdisciplinar cuando el debate sobre la discriminaci¨®n algor¨ªtmica era muy intensa. Hay quien dice que Internet es un reflejo de una sociedad desigual. Yo creo que va m¨¢s all¨¢. Creo que Internet y la tecnolog¨ªa producen otras desigualdades. Nuestra investigaci¨®n demostr¨® que, cuando pides recomendaciones a plataformas de streaming de m¨²sica, las mujeres son menos recomendadas que los hombres, independientemente del g¨¦nero musical. Y ah¨ª se abre el interrogante sobre cu¨¢l es el rol social de la plataforma para intentar equilibrar eso. Necesitamos que las plataformas demuestren que est¨¢n poniendo todo el empe?o en no generar y perpetuar las desigualdades. Pudimos analizar el g¨¦nero, pero no el perfil etnicorracial porque no hay datos ni de los artistas ni de los usuarios. Y eso quiz¨¢ en lugares del norte global eso no es importante, pero en Brasil es urgente.

P. Brasil es considerado un buen laboratorio para analizar los problemas de Internet, en general y de las redes sociales en particular, pero tambi¨¦n para alumbrar posibles soluciones.

R. Brasil es interesante por varias razones. Aunque somos un pa¨ªs del sur global, estamos tan hiperconectados que la mayor¨ªa de las grandes tecnol¨®gicas tiene oficina aqu¨ª. Eso nos permite construir un di¨¢logo con m¨²ltiples actores implicados en los debates, las investigaciones, en el intento de resolver problemas. Adem¨¢s, atravesamos una ola de crecimiento del conservadurismo. En los ¨²ltimos cuatro a?os con [el presidente Jair] Bolsonaro hemos visto el potencial de la desinformaci¨®n, que no nace ni se limita a Internet. Y tenemos ahora un Gobierno progresista que de plantea intensamente c¨®mo regular las plataformas. Claro, eso no resuelve todos los problemas, pero parte de ellos quiz¨¢ s¨ª.

P. Existen distintos modelos de regular Internet y las tecool¨®gicas, un asunto super amplio y t¨¦cnico. Pero ?qu¨¦ dir¨ªa usted que sin duda debe ser incluido en esa ley y qu¨¦ debe quedar fuera?

R. El principal desaf¨ªo, cuando pensamos en la regulaci¨®n de plataformas, no solo en Brasil, sino en nuestros vecinos latinoamericanos, es no importar el modelo europeo. Necesitamos descubrir cu¨¢l es nuestra manera. La transparencia, la posibilidad de auditar los datos que entregan las plataformas, son imprescindibles para abordar la desinformaci¨®n, la violencia pol¨ªtica o el discurso de odio. No debemos perder de vista que Brasil, como otros pa¨ªses latinoamericanos, son democracias muy fr¨¢giles. En Brasil necesitamos un organismo aut¨®nomo, con independiencia financiera, para realizar esas auditor¨ªas sin el riesgo de que se lo apropien los Gobiernos, el sector p¨²blico o el privado. La sociedad civil y la academia deben participar en ese debate. El objetivo final es ofrecer un ecosistema saludable a los brasile?os en el que se pueda hacer pol¨ªtica, hacer conexiones sin que implique un silenciamiento, ni una explosi¨®n de la polarizaci¨®n extrema, trampas de las que debemos huir.

P. Menciona la polarizaci¨®n, la desinformaci¨®n. Actualmente, tenemos acceso a m¨¢s informaci¨®n que nunca, pero buena parte de ella es de muy mala calidad. ?C¨®mo propone afrontarlo? ?cu¨¢l ser¨ªa la prioridad?

R. Cuando hablamos de desinformaci¨®n, no podemos pensar solo en las plataformas. Necesitamos abordar el modelo medi¨¢tico de Brasil, esa concentraci¨®n en manos de unas pocas familias, por ejemplo, de la televisi¨®n.

P. ?Considera posible luchar contra la desinformac¨®n mientras el odio sea m¨¢s lucrativo que la informaci¨®n sobria y de calidad?

R. La desinformaci¨®n seguir¨¢ siendo un fen¨®meno que requiere la b¨²squeda de soluciones entre diferentes sectores y actores sociales. Debemos pensar en medios alternativos, independientes, locales y regionales, en pol¨ªticas p¨²blicas que apoyen a medios ind¨ªgenas, producidos en las periferias, por los negros, por las comunidades tradicionales. Y luego, la educaci¨®n. Lla gente la gente sabe c¨®mo comprobar si una noticia es falsa o no, pero difieren en lo que consideran una fuente fiable. Para unos es un canal de YouTube, para otros una persona de confianza. Necesitamos una alfabetizaci¨®n de la sociedad en general y un compromiso del periodismo. Tenemos que pensar en pactos amplios porque el problema no se concentra en un solo actor. En el Gobierno Bolsonaro se fragilizaron muchos consensos que est¨¢bamos construyendo en torno a los derechos humanos, las mujeres, las personas negras, y se normaliz¨® la violencia discursiva y los ataques. Necesitamos volver a creer en un futuro construido a partir de nuevos consensos. Debemos escuchar activamente a las poblaciones hist¨®ricamente marginadas, pero el resto tambi¨¦n debe mirar hacia dentro y preguntarse ?qui¨¦nes eran mis antepasados?

P. ?Que los hist¨®ricamente favorecidos reflexionen sobre el privilegio blanco y el privilegio masculino, las ventajas por el mero hecho de serlo?

R. No usar¨ªa el t¨¦rmino privilegio porque hace que muchos reaccionen negativamente, intentando de protegerse. Es hora de que la ira, que ha sido importante para que los tradicionalmente marginados se movilizaran, se comparta un poco y que la gente que se benefici¨® del sistema pase a estar enojados con su pasado. Debemos construir personas antirracistas. Hace falta que la gente se d¨¦ cuenta de que la blanquitud tambi¨¦n se construye como ese espacio en el que te atribuyen algunas caracter¨ªsticas por ser una persona blanca. Ni las mujeres, ni los negros ni los ind¨ªgenas van a poder conquistar solos sus derechos, necesitamos una gran coalici¨®n para que la gente entienda que es importante que la sociedad lidie con esa ira. Cuando pensamos en la regulaci¨®n de la inteligencia artificial, las plataformas o la remuneraci¨®n del periodismo, debemos colocar la raza y el g¨¦nero en el centro del debate.

P. Vamos al g¨¦nero. Las parlamentarias son solo un 18% en el Congreso, pero ellas, sean de izquierdas o de derechas, son el objetivo preferente del odio digital. ?A qu¨¦ se debe?

R. Cuando entran en pol¨ªtica, son electas y ocupan espacios en los que antes no estaban, vemos que la ira se traduce en ataques a las mujeres, pero no por lo que hacen pol¨ªticamente, sino por lo que representan. Cuando comparamos los ataques en las redes sociales, vimos que los hombres blancos heterosexuales son cuestionados por sus cargos pol¨ªticos, y las mujeres, por su cabello, su ropa, su moral.

P. El Tribunal Supremo de Brasil ha tomado en los ¨²ltimos meses decisiones, algunas consideradas pol¨¦micas, contra la desinformaci¨®n que deriv¨® en un intento de golpe el pasado 8 de enero. ?Considera su actuaci¨®n proporcional al riesgo?

R. Tuvimos mucho miedo por lo que pod¨ªa ocurrirle a la democracia brasile?a. El Supremo tuvo una fuerte presencia en las elecciones y el 8 de enero en el esfuerzo para proteger las instituciones democr¨¢ticas, lider¨® el proceso. El problema es la deriva personalista.

P. ?Se refiere al protagonismo del juez Alexandre de Moraes?

R. S¨ª. Pero, ?c¨®mo protegemos las instituciones democr¨¢ticas brasile?as sin que esto se considere un problema? Necesitamos que todos los poderes y cada brasile?o asuman su responsabilidad.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.