¡°La protecci¨®n m¨ªnima no basta para quienes se encuentran en lo m¨¢s bajo de la sociedad¡±

La cultura zul¨² es oral. A falta de una escritura en la que inmortalizar su filosof¨ªa, esta se engarz¨® en el lenguaje. En vocablos tan b¨¢sicos como el saludo, sawubona, habitan connotaciones que van m¨¢s all¨¢ de un mero hola. ¡°Significa literalmente te veo, te siento, te reconozco¡±, explica Sabelo Mhlambi, investigador de origen zambiano de los centros Harvard Carr y Berkman Klein, de Harvard.

Esa fuerte interrelaci¨®n entre la comunidad, propia de la filosof¨ªa postcolonial africana, choca con todo lo que hoy es la industria tecnol¨®gica y, en concreto, el campo de la inteligencia artificial. Formado en ciencias de la computaci¨®n y centrado en el estudio de las implicaciones ¨¦ticas de la tecnolog¨ªa en las regiones en v¨ªas de desarrollo, Mhlambi pas¨® por Silicon Valley antes de regresar a la academia. Desde su experiencia en startups y compa?¨ªas del Fortune 500, rechaza que desde un rinc¨®n del mundo se pueda crear una herramienta global y personalizada para los habitantes del resto del planeta.

¡°Si quiero construir algo que te ayude, no puedo hacerlo desde California y esperar que sea perfecto. Tengo que estar en relaci¨®n contigo para saber lo que necesitas. Tengo que verte¡±, explica. ¡°Da igual la tecnolog¨ªa, las matem¨¢ticas y los programas que desarrollemos. Nunca reemplazaremos la necesidad de ser relacionales. Nunca reemplazaremos el input de otras personas¡±. El hecho de que ya haya sistemas automatizados decidiendo la suerte de ciudadanos an¨®nimos y convirtiendo sus experiencias vitales en un pu?ado de datos procesables prueba seg¨²n el investigador que algo ha estado fallando¡­ durante siglos.

P. Defiende que el desarrollo de la inteligencia artificial ha estado hist¨®ricamente dominado por el marco de pensamiento occidental. ?Cu¨¢l es el coste de esto?

R. La forma de pensar que tenemos hoy en d¨ªa, al menos en lo que respecta a la inteligencia artificial, naci¨® en la Ilustraci¨®n. La misma era en la que esas mismas filosof¨ªas se utilizaron para justificar la esclavitud, el racismo y la colonizaci¨®n. La idea principal es que puedes ver el mundo de forma objetiva y predecible. Que puedes usar n¨²meros, l¨®gica, computaci¨®n y no necesitar la visi¨®n de otras personas porque ¡®los n¨²meros no mienten, no son racistas, no est¨¢n sesgados¡¯.

Este movimiento hacia el pensamiento racionalista estaba en realidad acompa?ado por lo irracional. Lo que normalmente era racional y objetivo tend¨ªa a ser lo que era bueno para Europa occidental y la econom¨ªa americana. Este tipo de pensamiento conduce a la desigualdad. Si queremos encontrar algo que empodere a la sociedad en lugar de a individuos espec¨ªficos necesitamos encontrar filosof¨ªas que est¨¦n construidas para enfrentar la desigualdad.

Puede que esto no lo resuelva todo, pero seguramente funcionar¨¢ mejor que lo que estamos usando ahora. Y no tiene que ser un marco de pensamiento africano. Encontramos lo mismo en Am¨¦rica Latina, en filosof¨ªas ind¨ªgenas, asi¨¢ticas, orientales, en Hawaii¡­ Estas ideas probablemente representan la mayor¨ªa del mundo, pero por razones hist¨®ricas, por la expansi¨®n europea, tenemos esta visi¨®n dominante. No porque sea popular, porque funcione mejor, o porque sea m¨¢s ¨¦tica. Est¨¢ ah¨ª por la fuerza.

P. ?En alg¨²n momento hubo una aproximaci¨®n alternativa a este campo?

R. Siempre ha sido un movimiento de minor¨ªas. Incluso ahora. Un modo en que vemos a las compa?¨ªas tratar de acallar el temor a estas tecnolog¨ªas es decir: ¡®Tenemos juntas ¨¦ticas, pol¨ªticas de derechos humanos, comit¨¦s de desinformaci¨®n¡­ Todo est¨¢ bien¡¯. Si miramos esto desde el contexto hist¨®rico, es otra manera de permitir que la tecnolog¨ªa se siga desarrollando bajo el pretexto de que puede ser segura. Eso no es pr¨¢ctico, especialmente cuando ni siquiera est¨¢s implicando al resto del mundo en esa tecnolog¨ªa. Nos est¨¢n enga?ando cuando nos dicen que, si tenemos juntas ¨¦ticas, estamos a salvo. No estaremos a salvo hasta que todo el mundo participe en ello.

P. Su propuesta es incorporar el concepto africano de Ubuntu a estos desarrollos. ?En qu¨¦ consiste?

R. Todo se reduce a lo que significa ser una persona. A diferencia de las principales posturas occidentales, en las que el ser humano es puramente individual, y pensar, ser racional es lo que le hace humano; decimos que ser humano es la habilidad de ser relacional, colaborar, cooperar, estar en comunidad. En Ubuntu no naces como una persona completa, tienes que alcanzar la m¨¢xima expresi¨®n de lo que significa ser humano. Es un proceso de desarrollo continuo, te vuelves persona en el modo en que te relacionas con otra gente. Si les tratas de forma inhumana, te vuelves menos persona. Si les tratas de forma humana eres m¨¢s persona.

Quien eres no est¨¢ basado en qui¨¦n eres individualmente, sino en tu relaci¨®n con otros. Como resultado de esto, todos estamos conectados. Lo que a ti te afecta, puede afectarme a m¨ª. Compartimos una humanidad com¨²n, y por eso debemos intentar alcanzar un equilibrio colectivo en lugar de pensar ¨²nicamente en reclamos individuales y tratar los objetivos comunes como algo secundario.

P. ?C¨®mo se relaciona esto con la inteligencia artificial?

R. Cuando los matem¨¢ticos, l¨®gicos, fil¨®sofos y cient¨ªficos de la computaci¨®n estaban trabajando en ella, tambi¨¦n estaban respondiendo a la pregunta de qu¨¦ significa ser humano. Su primer error fue pensar que podemos hacer m¨¢quinas que son sencillamente matem¨¢ticas y l¨®gicas. La idea de que los humanos son seres racionales nos anima a pensar que no necesitamos hablar con los dem¨¢s porque esto es matem¨¢tico, l¨®gico. Nos anima a buscar soluciones que no toman en cuenta la perspectiva humana.

Otra cosa que falta en este ecosistema es la idea de reparaci¨®n o restauraci¨®n. El pensamiento racionalista no fomenta la restauraci¨®n, sino la retribuci¨®n: el ojo por ojo. En el caso de la tecnolog¨ªa, la idea es que si se admite culpa, se debe pagar lo equivalente. No tenemos un sistema que permita decir: ¡°Perd¨®n, quiero hacer las cosas mejor¡±. As¨ª que lo que hacen es evitar la cuesti¨®n.

Ubuntu nos da una soluci¨®n a largo plazo en el sentido de que es una forma de decir: ¡°Vamos a lidiar con este problema de una vez¡±. Y la manera de hacerlo es decir a los responsables que necesitan un sistema para volver a ser parte de la sociedad, de modo que no est¨¦n distantes y temerosos de que si admiten su culpa ser¨¢n perseguidos. Se trata de decir ¡°hay redenci¨®n para ti, puedes admitirlo y no ser¨¢s crucificado por ello ello. Tendr¨¢s un lugar en la sociedad y podr¨¢s ser parte de la comunidad¡±. Una vez que alcancemos este entendimiento podremos empezar a reestructurar la sociedad.

P. Teniendo en cuenta nuestros antecedentes, ?c¨®mo valora c¨®mo valora la constante competici¨®n de EE UU y China?

R. Hay una tercera parte aqu¨ª: la gente que est¨¢ al final de la jerarqu¨ªa. No quieren el modelo chino porque es demasiada invasi¨®n, pero tampoco quieren el modelo estadounidense de capitalismo digital. Adem¨¢s, aqu¨ª hay una amenaza, porque ahora mismo China est¨¢ en relaciones con muchos pa¨ªses africanos para la explotaci¨®n y entrenamiento en tecnolog¨ªa. Zimbabue fue el primer pa¨ªs en recibir tecnolog¨ªa china de reconocimiento facial. Y Zimbabue es internacionalmente conocido por problemas de violaciones de los derechos humanos, ataques, secuestros¡­ ?Te puedes imaginar lo que pasar¨ªa si tuvieran una herramienta mejor para controlar y vigilar a la gente?

Creo que hay espacio para un nuevo modelo que no tenga que ser ninguno de esos extremos. Algo con lo que podamos tener lo que necesitamos como sociedad sin estar sobrevigilados ni sobremercantilizados.

P. El cambio que propone y la introducci¨®n del concepto de Ubuntu en este sector es un proceso lento. ?Es realista esperar que las tecnol¨®gicas aminoren el paso?

R. No. Si eres una startup con dos ingenieros, tu objetivo es estar listo para el mercado cuanto antes. Esa es la cultura. Es dif¨ªcil esperar que los empleadores cambien cuando el ecosistema no cambia. Esperamos de Google y Facebook que sean m¨¢s ¨¦ticos, menos invasivos. Pero est¨¢n respondiendo a su entorno, a sus accionistas. Tienen que actuar as¨ª para mantener su modelo de negocio. Tienen que dejar las cuestiones ¨¦ticas para m¨¢s adelante porque si no, la competencia les sacar¨¢ ventaja. Y tambi¨¦n est¨¢n las cuestiones geopol¨ªticas. Es dif¨ªcil detenerse cuando piensas: ¡°Si no lo hago yo, Rusia lo har¨¢ primero¡±.

Para justificar ese cambio de ritmo necesitar¨ªamos tener un nuevo modelo que colocase a los humanos por encima del beneficio. Pero eso es lo contrario del capitalismo de vigilancia, que est¨¢ centrado en poner el beneficio por encima de los humanos.

P. Entonces, ?hay esperanza?

R. Creo que esto podr¨ªa ocurrir en el continente africano. Porque es un lugar donde ahora mismo solo el 26% de la poblaci¨®n tiene acceso a internet. As¨ª que puede ser un lugar donde formar nuevos h¨¢bitos, nuevas relaciones. Pero cuando esa ventana se cierre, jam¨¢s podremos escapar.

P. ?Trae el reciente despido de Timnit Gebru en Google m¨¢s motivos para el pesimismo?

R. S¨ª, pero tambi¨¦n motiva una acci¨®n m¨¢s radical. Al menos para gente como yo, el ejemplo de Timnit reafirma que estas compa?¨ªas son incapaces de cambiar y transformarse. Que una activista tan prominente haya sido despedida por hacer su trabajo es solo un ejemplo m¨¢s.

Siento pesimismo, pero no sorpresa. Para serte sincero, cada vez que veo buena gente trabajando en esas compa?¨ªas, me pregunto, ?c¨®mo de lejos van a llegar? Intento silenciar esos pensamientos y esperar lo mejor, pero luego ocurre esto.

P. Mientras tanto, hay diferentes iniciativas que est¨¢n tratando de desarrollar un marco ¨¦tico para la inteligencia artificial. ?Tienen los cimientos correctos?

R. En general, no se est¨¢n construyendo con valores ind¨ªgenas o africanos. No han consultado. Y lo s¨¦ porque normalmente soy parte de esos esfuerzos, donde soy la ¨²nica persona africana, esencialmente est¨¢ tratando de representar a mil millones de personas. Eso no es suficiente cuando tienes diez expertos europeos. No es representativo.

El argumento suele ser que tenemos el marco de los derechos humanos que es global y en el que todos estamos de acuerdo. Pero al mismo tiempo ese acuerdo es dudoso, porque el 10 de diciembre de 1948, cuando se firm¨® la Declaraci¨®n Universal de los Derechos Humanos, muchos pa¨ªses de ?frica no eran libres.

Estos marcos no incluyen la Carta Africana de Derechos Humanos y de los Pueblos, que es lo que la gente llama la tercera ola de los derechos humanos. As¨ª que no tengo ninguna esperanza en esas iniciativas porque no creo que sean suficientemente inclusivas. Y ni siquiera aspiran a serlo: pretenden ser la protecci¨®n m¨ªnima. Para los africanos, lo m¨ªnimo es nada. No es protecci¨®n. Eso funciona para la gente que ya tiene el poder y ya est¨¢ protegida. Pero no basta para quienes se encuentran a s¨ª mismos en lo m¨¢s bajo de la sociedad.