Paola Ricaurte: ¡°Las grandes compa?¨ªas tecnol¨®gicas son aliadas de gobiernos autoritarios¡±

Paola Ricaurte Quijano habla con esa tonada propia de quienes nacieron en una costa, pero su vida ha sido una mezcla de pa¨ªses. Naci¨® en Bogot¨¢ por azar, se crio en Ecuador y ha hecho su vida en M¨¦xico. Le gusta que la llamen mexicana ecuatoriana. Es profesora asociada del Departamento de Medios y Cultura Digital del Tecnol¨®gico de Monterrey y del Berkman Klein Center for Internet & Society de la Universidad de Harvard. En este ¨²ltimo, cuando todav¨ªa no se hablaba del tema, ella empez¨® a estudiar sobre los efectos de la Inteligencia Artificial para el sur global y ¡°la tecnolog¨ªa como espacio de reproducci¨®n colonial¡±.

Hoy alerta sobre c¨®mo, si no se cambian los t¨¦rminos del juego de los desarrollos tecnol¨®gicos, se profundizar¨¢ la desigualdad. ¡°Los sistemas sociot¨¦cnicos no son un resultado natural, sino un conjunto de decisiones que impulsan un nuevo modelo de mundo. Vivimos en un mundo dominado por un tipo de tecnolog¨ªa y por un pu?ado de actores¡±, dijo en el Foro DemocracIA, organizado por Civic Compass, Luminate y el International Fund for Public Interest Media (IFPIM).

Ricaurte es autora del manifiesto de la Inteligencia Artificial decolonial, cofundadora de Tierra Com¨²n, una iniciativa acad¨¦mica para la descolonizaci¨®n de los datos, impulsora del debate sobre IA feminista e integrante de la Alianza por Algoritmos Inclusivos. ¡°En 2018 cuando llegu¨¦ a Harvard todo el mundo est¨¢ hablando de Inteligencia Artificial y empec¨¦ a investigar ?qu¨¦ es esto? ?c¨®mo se come?, c¨®mo impacta al sur global?¡±, dijo en Buenos Aires en conversaci¨®n con Lideresas de Latinoam¨¦rica.

Pregunta. ?A seis a?os de ese momento y con todo el mundo volcado al tema, ?c¨®mo se come la IA hoy?

Respuesta. Hoy la IA est¨¢ en la agenda p¨²blica pero no de la manera que me gustar¨ªa. Para empezar, es un nombre bastante infeliz porque no es ni inteligencia ni es artificial. Bajo esta etiqueta se aglutinan una serie de cosas muy diversas. Primero, es un campo de estudio, pero tambi¨¦n es un conjunto de tecnolog¨ªas y t¨¦cnicas muy diversas. Entonces, cuando queremos hablar de IA en el debate p¨²blico, tenemos que precisar de qu¨¦ estamos hablando.

P. ?Cu¨¢l ser¨ªa entonces una buena definici¨®n?

R. Como definici¨®n t¨¦cnica me gusta la usa la OCDE, ¡°un sistema basado en una m¨¢quina que puede, para un objetivo definido por el ser humano, hacer predicciones, recomendaciones o decisiones que influyen en entornos reales o virtuales¡±. Pero el problema asociado con la concepci¨®n de tecnolog¨ªa es que pensemos que es solo un procedimiento matem¨¢tico o mec¨¢nico cuando en realidad son sistemas sociot¨¦cnicos, es decir, que emergen de la sociedad y que, por lo tanto, arrastran todas las condiciones sociales de su producci¨®n.

P. Usted habla de que son una serie de decisiones no naturales que impulsan un ¡°nuevo modelo de mundo¡±, ?c¨®mo es ese modelo?

R. Cuando pensamos la tecnolog¨ªa como parte de estos sistemas sociales entendemos que no estamos hablando solo de fierros, algoritmos, datos o aplicaciones, hablamos de sistemas de producci¨®n de conocimiento, de instituciones, regulaciones, infraestructuras; estamos hablando de interacciones sociales, de recursos naturales, del trabajo.

P. ?Qu¨¦ propone ese modelo basado en la IA que se est¨¢ construyendo y cu¨¢les son los actores dominantes?

R. Lo que estamos viviendo hay que leerlo en t¨¦rminos de procesos hist¨®ricos y de relaciones sociales. En la historia de la humanidad, las tecnolog¨ªas dominantes han servido para controlar la naturaleza y abonar a una idea de lo que debe ser la sociedad, el trabajo y las relaciones. Entonces, los sistemas sociot¨¦cnicos que vemos hoy responden a esa visi¨®n del mundo donde lo importante es la acumulaci¨®n del dinero, el incremento de la productividad y la eficiencia. El problema es que en esa narrativa no se est¨¢ teniendo en cuenta que el mundo es finito y que el desarrollo tecnol¨®gico de esos sistemas sociot¨¦cnicos ampl¨ªa las brechas sociales.

P. Dice que si no cambiamos los t¨¦rminos del juego se incrementar¨¢ la desigualdad.

R. Estos sistemas ampl¨ªan la desigualdad porque hacen que unas pocas personas concentren todo el dinero, el poder, los recursos naturales, los datos y el conocimiento. Son sistemas que est¨¢n hechos para optimizar esos procesos extractivistas, de despojo y violencia. Soy muy cr¨ªtica de eso. No quiero ese modelo de mundo que est¨¢n reproduciendo estas tecnolog¨ªas hegem¨®nicas; quiero otras tecnolog¨ªas que abonen a un modelo donde el centro est¨¦n los derechos humanos y los cuidados, tanto los del planeta como de las personas y, en particular de las que est¨¢n sufriendo los impactos del desarrollo tecnol¨®gico de una manera desproporcionada. Las corporaciones est¨¢n desarrollando tecnolog¨ªas abonan a esa acumulaci¨®n de riqueza y de desigualdad social. Las tecnolog¨ªas que nosotros necesitamos son tecnolog¨ªas que nos ayuden a las personas como nosotras, a nuestras poblaciones m¨¢s marginalizadas.

P. Precisamente se reunidos los l¨ªderes mundiales en la ONU para abordar el futuro. ?Qu¨¦ deber¨ªan estar planteando sobre la IA?

R. Uno de los temas centrales es la gobernanza de estos sistemas. Estamos discutiendo tecnolog¨ªas desarrolladas por unas pocas corporaciones, pero usadas a nivel mundial. Su impacto es transnacional, trasciende las fronteras y muchas veces las ideolog¨ªas, porque su discurso, que viene asociado con esta idea del avance y el progreso, es f¨¢cilmente apropiable en contextos de desigualdad y violencia como los de Am¨¦rica Latina. Se dice, bueno, vamos a utilizar tecnolog¨ªas de IA para promover la seguridad de la ciudadan¨ªa. Ah¨ª es cuando importa la gobernanza y caben preguntas: ?qui¨¦nes son estos l¨ªderes mundiales que discuten sobre IA?, ?desde qu¨¦ pa¨ªses hablan?

P. No est¨¢ contando la mirada de Latinoam¨¦rica el debate global¡­

R. Son muy pocos l¨ªderes los que est¨¢n controlando el debate y lo hacen a su favor para que estas tecnolog¨ªas se apropien r¨¢pidamente y los gobiernos y los ciudadanos sigamos siendo clientes; para que, bajo ese modelo de mundo, las empresas se auto regulen y no rindan cuentas a las sociedades, no se desarrollen regulaciones fuertes ni se impongan pol¨ªticas fiscales que afecten los intereses de las corporaciones o se promuevan innovaciones p¨²blicas o comunitarias. Cuando pensamos c¨®mo est¨¢ el debate global, desde nuestros pa¨ªses tenemos que estar muy claros de cu¨¢les son esas fuerzas y tensiones en las cuales nos tenemos que insertar, porque nadie est¨¢ defendiendo nuestros derechos en realidad.

P. ?C¨®mo podr¨ªa Am¨¦rica Latina revertir esa situaci¨®n?

R. Nuestros pa¨ªses tienen muy poca capacidad de negociaci¨®n porque no est¨¢n articulados. Europa en cambio va como un frente regulatorio y aunque no se destaque por su capacidad de desarrollo de tecnolog¨ªa est¨¢ invirtiendo much¨ªsimo dinero para competir. Lo que hicieron fue decir ?c¨®mo nos protegemos? Bueno, vamos a mandar regulaciones. Son muy inteligentes porque plantean una perspectiva soberana de inteligencia artificial a nivel regional. Pero esta tampoco es una pol¨ªtica centrada en derechos y eso beneficia a las empresas europeas. ?Por qu¨¦ nosotros que tenemos una cantidad de poblaci¨®n que es toda Norteam¨¦rica y Europa juntas; que tenemos los recursos, la mano de obra, los datos, ?no podemos hacer lo mismo? O sea, tendr¨ªamos capacidad de negociaci¨®n si nos articul¨¢ramos con una perspectiva distinta sobre la inteligencia artificial. Pero no lo estamos haciendo porque las empresas hacen lobby.

P. Brasil se ve bastante solo desde este lado.

R. S¨ª, lo est¨¢ haciendo solo. Y entonces vemos estas narrativas de que Brasil es autoritario, cuando simplemente est¨¢ poniendo un freno. Una compa?¨ªa extranjera no puede tener m¨¢s poder pol¨ªtico y econ¨®mico que un Estado naci¨®n. Por eso digo que ese es un riesgo para la democracia directo para la democracia. Ahora, muchos de los gobiernos de la regi¨®n est¨¢n desarrollando pol¨ªticas, pero alineadas a los intereses de las empresas. No estamos teniendo leyes de protecci¨®n de datos personales o regulaciones articuladas ni una visi¨®n de la pol¨ªtica.

P. Bajo esos t¨¦rminos de juego desiguales, ?qu¨¦ opciones tenemos los ciudadanos?

R. Siempre hay opci¨®n de tomar decisiones y creo que a veces minimizamos la capacidad que tenemos para elegir nuestros gobiernos y exigirles una visi¨®n y una pol¨ªtica que defienda nuestros derechos. La ciudadan¨ªa en Am¨¦rica Latina y la sociedad civil organizada ha estado siempre la vanguardia, pero tambi¨¦n nos falta articulaci¨®n para que entendamos que esto no se trata de un asunto tecnol¨®gico. Estamos hablando de un modelo de sociedad, de la defensa de la democracia y los derechos humanos; estamos hablando de que no queremos que se incrementen las desigualdades ni la violencia en nuestros pa¨ªses y de c¨®mo estos sistemas est¨¢n contribuyendo para agravar los problemas que ya tenemos.

P. ?C¨®mo los agrava?

R. Las desigualdades se reproducen a nivel macro por la concentraci¨®n de recursos y poder. La brecha entre los pa¨ªses que tienen el control del desarrollo tecnol¨®gico y los que no lo tienen es brutal. Despu¨¦s, a nivel de los pa¨ªses, ?qu¨¦ pasa cuando estos sistemas se instalan por parte de los gobiernos para la toma de decisiones p¨²blicas de acceso a servicios de salud, de educaci¨®n, servicios sociales, empleos? Pues como estos sistemas no est¨¢n dise?ados para nosotras, lo ¨²nico que hacen es reproducir esas desigualdades hist¨®ricas.

P. ?En qu¨¦ casos concretos de decisiones p¨²blicas se puede observar?

R. Por ejemplo, sistemas predictivos de prevenci¨®n del embarazo adolescente terminan siendo usados para controlar el cuerpo de las mujeres en vez de solucionar el de la violencia que hay detr¨¢s; lo mismo para prevenir los riesgos de adolescentes que cometan un acto de delincuencia. ?Por qu¨¦ mejor no abonan a las cuestiones sociales que ponen en una situaci¨®n de desventaja a los adolescentes precarizados? El problema es que los gobiernos toman estos sistemas sociot¨¦cnicos lo hacen bajo la premisa de que la tecnolog¨ªa va a solucionar un problema social y justamente hace lo contrario: reproduce ¨®rdenes de clasificaci¨®n social. Si observamos bien, es sobre los pobres, las mujeres, las personas en situaci¨®n de movilidad sobre las cuales act¨²an estos sistemas. Nunca sobre los ricos. No hacemos un sistema para predecir cu¨¢nto van a robar o evadir impuestos los ricos. Se hace solo sobre la poblaci¨®n m¨¢s precarizada. Entonces, no solamente que estos sistemas no funcionan, sino que, adem¨¢s nuestros gobiernos contribuyen con ellos a reproducir esa desigualdad.

P. ?C¨®mo debe ser una IA feminista?

R. Hay muchas discusiones acerca de los sesgos de g¨¦nero y raciales de la IA. Para nosotras es importante entender las tecnolog¨ªas como relaciones de poder. Si no cambias la matriz del poder, vas a seguir teniendo sistemas que a lo mejor funcionan, pero estos seguir¨¢n reproduciendo esas relaciones de poder asim¨¦tricas en la sociedad. Por eso, nuestra perspectiva tiene que ser feminista. Queremos abonar a las causas de la desigualdad y de las relaciones asim¨¦tricas de poder y de las violencias estructurales que se reproducen a trav¨¦s de estos sistemas en todos esos planos y en todo el ciclo de vida de la IA, no solamente en el momento de los datos o el modelo; yo quiero que contemplemos todo c¨®mo afecta a las relaciones laborales, los sistemas democr¨¢ticos, al ambiente. Mientras no tengamos esa visi¨®n un poco m¨¢s compleja no estamos solucionando ning¨²n problema.

P. Al hablar de actores en este nuevo modelo de mundo, ?cu¨¢l es el rol de los medios masivos?

R. La labor m¨¢s urgente que necesitamos de los medios es que no sigan las narrativas hegem¨®nicas con respecto a estos sistemas y que tengan una posici¨®n cr¨ªtica sobre lo que significan para nuestras sociedades. Hay un espacio muy importante para que las personas puedan entender los impactos concretos, materiales del desarrollo de estos sistemas en sus vidas y en las de sus pueblos y territorios: el impacto socio ambiental de los centros de datos (que requieren energ¨ªa y agua para refrigerarlos), toda la cuesti¨®n laboral, la extracci¨®n de los minerales (que se utilizan para el desarrollo tecnol¨®gico, como las bater¨ªas); las cadenas de suministro opacas y que no sabemos el lugar que ocupa Am¨¦rica Latina en esta divisi¨®n internacional del trabajo actualizada.

P. ?Cu¨¢l es la discusi¨®n m¨¢s urgente respecto la IA?

R. Hace falta que entendamos c¨®mo el desarrollo de estas tecnolog¨ªas est¨¢ directamente articulado con los sistemas pol¨ªticos y la democracia. Estas grandes compa?¨ªas son muy aliadas de los gobiernos autoritarios y est¨¢n impulsando la automatizaci¨®n de la violencia a escala.