Luciana Benotti, especialista en ling¨¹¨ªstica computacional: ¡°La extracci¨®n de datos para la IA es una nueva colonizaci¨®n¡±

La inteligencia artificial (IA) y los gigantes tecnol¨®gicos utilizan datos personales de todos, incluidos los miles de millones de ciudadanos de las naciones menos desarrolladas, sin pagar regal¨ªas ni otorgar alg¨²n beneficio. As¨ª lo expresa la investigadora argentina Luciana Benotti (San Francisco, 44 a?os): ¡°Muy pocas de estas empresas dejan riquezas en la comunidad hispanohablante, pero se alimentan de los datos que producimos en espa?ol de forma gratuita¡±. Doctora en Inform¨¢tica con especialidad en Ling¨¹¨ªstica computacional, formada en la Universidad del Comahue en Argentina, la Polit¨¦cnica de Madrid, la Bolzano de Italia y el Institut National de Recherche en Sciences et Technologies du Num¨¦riquee (INRIA) de Francia, sostiene que el uso de datos sin coste alguno es una nueva forma de colonizaci¨®n extractivista. ¡°Se extraen de donde se extra¨ªan esclavos en el pasado y se llevan a donde se llevaban esclavos en el pasado¡±, reflexiona.

La investigadora del Consejo Nacional de Investigaciones Cient¨ªficas y T¨¦cnicas (Conicet) es la primera presidenta latinoamericana de la Asociaci¨®n de Ling¨¹¨ªstica Computacional Panamericana ¨Dtodos los anteriores eran norteamericanos¨D, que aglutina a 5.000 investigadores y desarrolladores de modelos de lenguaje de universidades y grandes empresas tecnol¨®gicas como Google o Meta. Adem¨¢s, colabora con la Fundaci¨®n V¨ªa Libre para los derechos digitales, y es miembro del comit¨¦ directivo de Khipu, una comunidad de investigadores y desarrolladores de IA en Latinoam¨¦rica.

Benotti fue la ¨²nica acad¨¦mica latinoamericana que particip¨® en la pasada Cumbre de Seguridad 2023 en Inteligencia Artificial en Bletchley, Reino Unido. ¡°Am¨¦rica Latina fue la regi¨®n del mundo menos representada. El espa?ol ni siquiera estaba en la lista de siete idiomas en los que era posible la traducci¨®n simult¨¢nea¡±, comenta. Precisamente, su equipo de investigaci¨®n desarrolla una herramienta para detectar sesgos sociales en modelos de lenguaje en espa?ol.

Pregunta. ?Cu¨¢l es la participaci¨®n del mundo hispanoparlante en el desarrollo de herramientas de inteligencia artificial?

Respuesta. Seg¨²n datos del Banco Interamericano de Desarrollo de 2020, Am¨¦rica Latina y el Caribe es la regi¨®n peor representada tanto en patentes como en art¨ªculos cient¨ªficos que muestran la participaci¨®n en el desarrollo de la inteligencia artificial. La gran conferencia que se realizar¨¢ en Singapur sobre el procesamiento de lenguaje natural (NLP) y los modelos de lenguaje para inteligencia artificial generativa cuenta con m¨¢s de 3.000 inscritos, 23 de los cuales son de Espa?a y 13 de Latinoam¨¦rica hispanohablante. Con respecto a la lengua castellana, un an¨¢lisis del lenguaje de investigaci¨®n de los art¨ªculos cient¨ªficos de los ¨²ltimos 10 a?os por idioma muestra que el espa?ol es el octavo lenguaje m¨¢s estudiado en la comunidad cient¨ªfica de ling¨¹¨ªstica computacional, pero muy lejos de la dedicaci¨®n al ingl¨¦s, al chino y al alem¨¢n, que juntos representan m¨¢s de 70% del trabajo.

Aun cuando la IA habla en espa?ol, piensa en ingl¨¦s o en chino porque la mayor parte de sus datos de entrenamiento son en esos idiomas

P. ?La IA habla ingl¨¦s?

R. Podemos decir que, aun cuando la IA habla en espa?ol, piensa en ingl¨¦s o en chino porque la mayor parte de sus datos de entrenamiento son en esos idiomas. Con eso me refiero a que la posicionalidad de la IA es mayormente la de una persona nacida en pa¨ªses donde se habla ingl¨¦s o chino. La posicionalidad de una persona se refiere a las perspectivas que sostiene como resultado de sus caracter¨ªsticas demogr¨¢ficas, identidad y experiencias de vida. Trabajos recientes han descubierto que la mayor¨ªa de los modelos de IA disponibles p¨²blicamente se alinean predominantemente con hablantes nativos de ingl¨¦s, personas blancas, con educaci¨®n universitaria, procedentes del hemisferio Norte.

P. ?Es una nueva manera de colonizaci¨®n?

R. S¨ª, es una nueva forma de colonizaci¨®n extractivista. Los datos se extraen de donde se extra¨ªan esclavos en el pasado y se llevan a donde se llevaban esclavos en el pasado. El petr¨®leo y otras actividades de miner¨ªa o de la agricultura intensiva dejan regal¨ªas, el extractivismo de datos no, pero s¨ª usa el tiempo de las personas que generan los datos.

P. ?De qu¨¦ manera el mundo hispanoparlante puede tener un papel preponderante en este campo?

R. Las empresas no est¨¢n vendiendo IA, sino que la alquilan almacenando los datos de sus clientes ¨Dempresas y gobiernos¨D en sus computadoras, lo que llaman nube. Estos datos, en general, pasan a ser de su propiedad y los pueden usar para entrenar nuevos modelos de IA. Una manera de empezar a resguardar nuestros datos o cobrar por ellos ser¨ªa reconsiderar la moratoria de impuestos de aduana sobre los datos que salen de los pa¨ªses de habla hispana para que las big tech [gigantes tecnol¨®gicos] no solo tengan que pagar por el hardware sino tambi¨¦n por los datos, su materia prima. Eso podr¨ªa motivar a que se creen empresas o instituciones que almacenen los datos en los territorios de los hispanohablantes y los aprovechen para hacer IA. Ahora es imposible competir con las big tech.

La inversi¨®n para mejorar la diversidad es inexistente con respecto a la inversi¨®n para fortalecer la posici¨®n de pa¨ªses que ya tienen el monopolio de la inteligencia artificial

P. Entonces, es muy importante que se posicione¡­

R. La IA ya est¨¢ teniendo un impacto en el mercado laboral y va a tener uno mayor en el futuro. El impacto de estas tecnolog¨ªas en el empleo es un tema ineludible. Una mejora en la productividad deber¨ªa tener una correlaci¨®n directa en una mejora de las condiciones de trabajo y en la calidad del empleo, con especial atenci¨®n a las poblaciones m¨¢s vulnerables. Pero esto es dif¨ªcil que suceda si la IA que se usa es importada. Cualquier transformaci¨®n del mercado laboral debe atender de forma prioritaria la problem¨¢tica del desempleo y la precarizaci¨®n con medidas proactivas y efectivas. Esto es particularmente importante para nuestras comunidades.

P. ?La visi¨®n cultural de Am¨¦rica Latina est¨¢ excluida de la IA?

R. Empresas como OpenAI, Meta, Google y otras seguramente tienen acceso a datos en espa?ol, pero no sabemos cu¨¢ntos ni cu¨¢les. ?nicamente podemos sospechar que pueden estar usando tambi¨¦n nuestros datos personales que se van todos los d¨ªas por los cables submarinos de Las Toninas cada vez que usamos WhatsApp, las aplicaciones de Google y similares. Con estos datos es posible desarrollar modelos de lenguaje como ChatGPT. Estos modelos han evolucionado en tecnolog¨ªas ¨²tiles con capacidades que no exist¨ªan hace poco tiempo. Sin embargo, el comportamiento humano est¨¢ inherentemente moldeado por los contextos culturales, parte de los cuales se reflejar¨¢n en los datos utilizados para entrenar los modelos NLP [de procesamiento de lenguaje natural], pero no completamente.

P. Esos modelos que parece que nos representan, ?en realidad no lo hacen?

R. Algo importante a tener en cuenta es que los modelos de lenguaje actuales, como ChatGPT, son multiling¨¹es e incluyen una mayor¨ªa de datos en ingl¨¦s o de chino. Por lo que su posicionalidad, por m¨¢s de que hablen espa?ol, es generalmente la de alguien de una cultura de habla inglesa en el caso ChatGPT, o china si hablamos de Baidu¡¯s Ernie Bot.

P. ?Podr¨ªamos decir entonces que no hay diversidad en este ¨¢rea?

R. As¨ª es, no hay diversidad. Aunque siempre en estos eventos [por la Cumbre de Seguridad 2023 en Inteligencia Artificial en Bletchley] se repita que la diversidad es importante, la realidad es que no hay medidas concretas. La inversi¨®n para mejorar la diversidad es inexistente con respecto a la inversi¨®n para fortalecer la posici¨®n en esta ¨¢rea de pa¨ªses que ya tienen el monopolio. En la cumbre hubo m¨¢s de 100 participantes y pretend¨ªa ser un encuentro mundial. Sin embargo, la representaci¨®n de los hispanohablantes era muy limitada.

P. ?Qu¨¦ impacto tiene en lo econ¨®mico esa escasa participaci¨®n latinoamericana en la IA?

R. Las empresas de IA conocidas como big tech son las m¨¢s ricas en este momento. La IA es una de las fuentes de riqueza econ¨®mica m¨¢s importante en el mundo. Seis de las ocho empresas m¨¢s valiosas del planeta dependen fuertemente de la IA. Muy pocas de estas empresas dejan riquezas en la comunidad hispanohablante, pero se alimentan de los datos que producimos en espa?ol, gratis. En la cumbre mencion¨¦ la necesidad de representaci¨®n del Sur global, pero tuvo muy poco eco entre los participantes. Si bien todos hablaban de la importancia de la diversidad en abstracto, al ¨²nico al que escuch¨¦ hablar de la poca representatividad de IA del sur global fue al ministro de Ciencia de China.

Puedes seguir a Planeta Futuro en X, Facebook, Instagram y TikTok y suscribirte aqu¨ª a nuestra ¡®newsletter¡¯.