¡®Tecnolog¨ªas entra?ables¡¯: por unas m¨¢quinas m¨¢s humanas

El progreso tecnol¨®gico es un tsunami del que es imposible escapar. Las formas de transporte, los gadgets, las maneras de consumir o relacionarnos est¨¢n en continua mutaci¨®n y da la impresi¨®n de que solo podemos apretar el paso para no quedarnos rezagados. No conviene perder el tren del avance de la tecnolog¨ªa, que es el ¨²nico posible y tiene un destino definido y justo: lo contrario es retroceso.

Lee la nueva edici¨®n de la Revista Retina completa aqu¨ª

Pensar as¨ª, que la evoluci¨®n de la tecnolog¨ªa es aut¨®noma y pr¨¢cticamente independiente de la voluntad humana, es una postura llamada determinista. Si alg¨²n avance tecnol¨®gico es posible, alguien, en alg¨²n lugar, lo llevar¨¢ a cabo. Pero frente a este determinismo tecnol¨®gico, ese futuro inevitable, surgen otras opciones, por ejemplo, la que algunos autores han llamado tecnolog¨ªas entra?ables. ¡°Las tecnolog¨ªas son como son porque hay personas que toman decisiones para que sean as¨ª¡±, escribe Miguel ?ngel Quintanilla, catedr¨¢tico em¨¦rito de L¨®gica y Filosof¨ªa de la Ciencia de la Universidad de Salamanca, en el libro Tecnolog¨ªas entra?ables (Catarata, 2017). El futuro no viene dado, sino que lo construimos nosotros sembrando ahora sus semillas. Hay una conexi¨®n posible entre los seres humanos y el devenir de las m¨¢quinas, ¡°sin renunciar por ello a impulsar el desarrollo tecnol¨®gico y a aprovechar sus consecuencias sociales y econ¨®micas beneficiosas¡±.

Las tecnolog¨ªas son como son porque hay personas que toman decisiones para que sean as¨ª"

?Puede ser entra?able la tecnolog¨ªa? El t¨¦rmino entra?able (en ingl¨¦s engaged technologies) se utiliza aqu¨ª como el opuesto a alienado. Las tecnolog¨ªas alienadas ser¨ªan aquellas sobre las que los usuarios no tenemos ning¨²n control; la aparente autonom¨ªa de la t¨¦cnica es fruto de esa alienaci¨®n. ¡°Podemos promover el desarrollo desentendi¨¦ndonos de las tecnolog¨ªas que producimos o, en cambio, podemos responsabilizarnos de su control¡±, dice Quintanilla. Algunas de ellas, como es el caso del smartphone, tienen suma importancia en nuestras vidas, sin embargo, no tenemos control sobre ellas ni conocimiento sobre su funcionamiento. Son cajas negras, como las denominar¨ªa el fil¨®sofo de la ciencia Bruno Latour.

Qu¨¦ son y qu¨¦ esperamos de ellas

Las tecnolog¨ªas entra?ables se definen por un dec¨¢logo de criterios. Por ejemplo, tienen que ser abiertas, como sucede en el caso del software libre, que cualquiera puede mirar por dentro y modificar. As¨ª es el sistema operativo Linux. ¡°Creo que estas opciones no son tan populares no porque sean peores, sino porque se promocionan menos¡±, opina Quintanilla. ¡°Antes, los chavales quer¨ªan un ordenador y al usarlo ten¨ªan que aprender c¨®mo funcionaba, ciertas nociones de inform¨¢tica. Esto no pasa con el tel¨¦fono inteligente, que es una tecnolog¨ªa cerrada, opaca, un fetiche¡±, a?ade el fil¨®sofo. Las t¨¦cnicas de deep learning, dentro de la disciplina de la inteligencia artificial, comienzan a ser criticadas precisamente por su opacidad intr¨ªnseca: es dif¨ªcil para los seres humanos conocer las entretelas de estos sistemas, las maneras en las que toman las decisiones. Y los humanos no deben perder el control sobre los algoritmos: la tecnolog¨ªa avanzada no debe ser indistinguible de la magia, como profetiz¨® el escritor de ciencia ficci¨®n Arthur C. Clarke.

Las tecnolog¨ªas han de ser tambi¨¦n comprensibles, al menos en la medida de lo posible, para el usuario. ¡°Es cierto que la tecnolog¨ªa avanzada es de por s¨ª muy compleja, pero al menos se trata de no oscurecerla m¨¢s a trav¨¦s del dise?o¡±, dice el catedr¨¢tico. Esta oscuridad posibilit¨® en 2015 el esc¨¢ndalo en torno a las emisiones contaminantes de los coches Volkswagen, cuyos sistemas electr¨®nicos de control de emisiones generaba datos falsos. Es dif¨ªcil cometer un fraude as¨ª si no es utilizando un dise?o basado en cajas negras inaccesibles.

Otro criterio que debe cumplir es la polivalencia: que pueda usarse para diferentes utilidades, como el caso del smartphone, que ya sirve para casi todo. ¡°Aunque aqu¨ª se corre el riesgo de que al final no podamos vivir sin un tel¨¦fono inteligente¡±, dice Quintanilla. Adem¨¢s, la tecnolog¨ªa entra?able tiene que ser sostenible medioambientalmente, socialmente responsable (que no excluya a nadie, no genere desigualdades y tenga en cuenta a los m¨¢s vulnerables) o limitada, es decir, que permita predecir su funcionamiento, sus posibles efectos nocivos. En caso de no conocerlos, habr¨ªa que aplicar el principio de precauci¨®n.

Pensada para perdurar

Aunque a veces se difunda la idea de que cualquier avance tecnol¨®gico es deseable, esto no siempre es as¨ª"

Por supuesto, la obsolescencia programada, esa pr¨¢ctica que hace que una tecnolog¨ªa acabe su vida ¨²til antes de lo posible y haya que sustituirla por otra nueva, en aras de incentivar el consumo y mantener activada la rueda de la industria, queda muy lejos de estos criterios. ¡°El desarrollo de las tecnolog¨ªas entra?ables conlleva el rescate de la figura del ciudadano frente a la del consumidor¡±, escriben los investigadores Dar¨ªo Sandrone y Diego Lawler. Entre las tecnolog¨ªas que podr¨ªamos considerar entra?ables o cercanas a la entra?abilidad, podr¨ªamos citar el c¨®digo de software abierto, la enciclopedia colaborativa Wikipedia, la plataforma de software y hardware Arduino (completamente abierta a los usuarios) o la actividad de la comunidad maker, que comparte y produce dise?os de impresi¨®n 3D. Sus postulados est¨¢n cercanos a los de la econom¨ªa circular, que pretende flujos econ¨®micos y ecol¨®gicos cerrados que reduzcan el impacto medioambiental aprovechando todos los residuos.

?Qui¨¦n dise?a la tecnolog¨ªa que utilizamos y con qu¨¦ criterios? ¡°Uno de los problemas actuales del desarrollo tecnol¨®gico son las enormes redes de flujos materiales y de conocimiento involucradas en el dise?o¡±, dice Mart¨ªn Parselis, investigador de la Universidad Cat¨®lica Argentina y autor de una tesis doctoral sobre el tema. As¨ª, es dif¨ªcil saber qui¨¦n est¨¢ detr¨¢s de los desarrollos, pues estas redes diluyen la identidad de los agentes que deciden. Sin embargo, se puede hacer una aproximaci¨®n: ¡°Para las tecnolog¨ªas masivas estas organizaciones suelen ser empresas que, con alg¨²n prop¨®sito, dise?an artefactos, dispositivos o servicios que llegan a nuestras manos, y se elaboran con criterios de eficiencia cl¨¢sicos¡±, explica Parselis. ¡°Estos criterios mayormente se orientan al funcionamiento y a la relaci¨®n costo-beneficio, pero externalizan diversos factores que las tecnolog¨ªas entra?ables intentan incorporar al dise?o¡±.

Esto implica problemas, seg¨²n el investigador. El primero es de la transparencia: muchas veces utilizamos aplicaciones para resolver problemas que, al mismo tiempo, llevan a cabo funciones que desconocemos. Es el caso de cantidad de apps que, con la excusa de darnos un servicio, recopilan nuestros datos y se los venden a otras organizaciones. Un ejemplo claro es el esc¨¢ndalo de Cambridge Analytica, la empresa que recopil¨® datos privados de 50 millones de usuarios de Facebook. Con esa informaci¨®n, la compa?¨ªa trat¨® de influir en las elecciones en EE UU.

Otro problema surge cuando una tecnolog¨ªa tiene unas consecuencias que implican a toda la sociedad y sobre la que habr¨ªa que tomar acuerdos comunes. ¡°Si una tecnolog¨ªa es cr¨ªtica por lo que hace, es necesario establecer alg¨²n acuerdo sobre su desarrollo, como en la edici¨®n gen¨¦tica¡±, ejemplifica Parselis. ¡°Si es cr¨ªtica por su escala, tambi¨¦n debemos establecer alg¨²n acuerdo, porque obligar¨¢ a much¨ªsimas personas a adoptar gestos y finalmente cambiar formas de vida¡±. En general, se puede producir una descoordinaci¨®n, un ¡°extra?amiento¡±, entre lo que buscamos los usuarios en una tecnolog¨ªa y lo que buscan los que la dise?an.

Porque no est¨¢ claro que la innovaci¨®n tecnol¨®gica signifique siempre progreso. Es el caso de las aplicaciones de reparto a domicilio que precarizan a los trabajadores que se desempe?an de riders. ?Son un avance o un retroceso? Aunque a veces se difunda la idea de que cualquier avance tecnol¨®gico es deseable, esto no siempre es as¨ª. Dejarnos llevar por la tecnolog¨ªa sin ser conscientes de lo que ello implica es lo que el polit¨®logo Langdon Winner ha llamado sonambulismo tecnol¨®gico.

Ser¨ªa conveniente articular instituciones y procedimientos para que la ciudadan¨ªa pudiera participar del desarrollo m¨¢s all¨¢ que como consumidora pasiva, que compra o rechaza un producto. ¡°Se trata de abrir un espacio central para la ¨¦tica y la participaci¨®n democr¨¢tica, corrigiendo el tradicional d¨¦ficit normativo en la regulaci¨®n del cambio tecnol¨®gico¡±, expone Jos¨¦ Antonio L¨®pez Cerezo, catedr¨¢tico de L¨®gica y Filosof¨ªa de la Ciencia en la Universidad de Oviedo. Es preciso fomentar el control y la participaci¨®n ciudadana del cambio tecnol¨®gico, sobre todo en ¨¢reas tan sensibles como la inteligencia artificial, la nanotecnolog¨ªa o la ingenier¨ªa gen¨¦tica. Si usted no hace la tecnolog¨ªa, otros la har¨¢n por usted.