Cajas negras y son¨¢mbulos: ?sabemos lo que hay dentro de la tecnolog¨ªa?

Parece magia: basta con tocar con la punta del dedo ¨ªndice la pantalla t¨¢ctil para mandar correos electr¨®nicos, escuchar m¨²sica, ver pel¨ªculas o redactar un texto. Ya lo dijo el escritor de ciencia ficci¨®n Arthur C. Clarke: ¡°Una tecnolog¨ªa suficientemente avanzada es indistinguible de la magia¡±. La vida contempor¨¢nea ya es inconcebible sin la utilizaci¨®n de estos prodigios y tambi¨¦n es imposible imaginar el futuro sin ellos (m¨¢s bien lo imaginamos a trav¨¦s de ellos). Pero, m¨¢s all¨¢ del manejo de las diversas aplicaciones, ?sabemos lo que hay realmente dentro de la tecnolog¨ªa?

El concepto de caja negra proviene de la inform¨¢tica y de la ingenier¨ªa. Hace referencia a artefactos o partes de procesos en cuyo detalle interno no reparamos y solo tenemos en cuenta lo que entra o lo que sale: el input y el output. Respecto a lo que pase ah¨ª dentro, puede que no lo sepamos o puede que no nos importe para nuestros fines. Este podr¨ªa ser un ejemplo visual: alguien que monta un circuito el¨¦ctrico y en ¨¦l coloca condensadores, resistencias, etc, que en este contexto act¨²an como cajas negras. Importa lo que entra y lo que sale, pero no lo que hay dentro. ¡°Lo que se considere como caja negra depende del punto de vista de cada uno; lo que para un ingeniero puede ser un sistema completo, para otro puede ser solo un componente¡±, escribe el fil¨®sofo de la mente John Haugeland en La inteligencia artificial (Siglo XXI Editores).

El soci¨®logo de la ciencia Bruno Latour tambi¨¦n toma el concepto de caja negra, aunque de manera m¨¢s amplia. ¡°La caja negra se da cuando una tecnolog¨ªa funciona, ya es un conocimiento clausurado, que ha solidificado como una roca. Cuanto mejor funciona, cuanto m¨¢s tiempo lleva funcionando, m¨¢s opaca se vuelve, m¨¢s desatendemos a sus componentes¡±, explica Paloma Garc¨ªa D¨ªaz, investigadora del departamento de Filosof¨ªa de la Universidad de Granada y autora de una tesis sobre Latour. La idea del franc¨¦s se puede aplicar a aparatos tecnol¨®gicos, pero tambi¨¦n a campos del conocimiento ya dominados que tambi¨¦n se pueden considerar como cajas negras: ideas, expresiones o conceptos habituales que ya no ponemos en cuesti¨®n. Las cajas negras, en general, nos permiten avanzar, operar, tomar decisiones teniendo en cuenta menos factores: simplifican los procesos.

• ?Qu¨¦ hay dentro de mi smartphone?

Buena parte de la tecnolog¨ªa que utilizamos entra dentro del concepto de caja negra. La mayor¨ªa de los mortales se mantiene ajena a lo que pasa en los ordenadores, programas de software, smartphones, tablets, etc, por muy bien que sepa utilizar tales ingenios. ¡°Cuando utilizo un procesador de textos pulso un teclado y en la pantalla aparecen letras, no me hace falta saber c¨®mo funciona a un nivel m¨¢s profundo, qu¨¦ est¨¢ pasando dentro del ordenador¡±, dice Ignacio M¨¢rtil, catedr¨¢tico de Electr¨®nica de la Universidad Complutense de Madrid. La ignorancia es a¨²n m¨¢s espesa si bajamos al nivel de los algoritmos o los transistores que se ocultan en la base de muchas tecnolog¨ªas. El oscuro mundo de los unos y los ceros.

¡°Hace pocas generaciones muchos conductores eran capaces de abrir el cap¨® del coche y hacer una reparaci¨®n¡±, ejemplifica Eduard Aibar, profesor de la Universitat Oberta de Catalunya y director del grupo de investigaci¨®n sobre Open Science and Innovation (OSI). ¡°Hoy la mayor parte no sabe ni cambiar una rueda. Pero es que, adem¨¢s, los motores son construidos de manera tan compacta que apenas hay manera de manipularlos¡±. Por supuesto, esto se aplica tambi¨¦n a la tecnolog¨ªa electr¨®nica: si era com¨²n poder abrir la caja de un ordenador de sobremesa e incluso componerlo a la medida de nuestras necesidades, muchos ingenios posteriores (un iPad, sin ir m¨¢s lejos) est¨¢n dise?ados para no poder abrirse ni manipularse. ¡°As¨ª nuestra relaci¨®n con la tecnolog¨ªa es de meros consumidores, sin muchas opciones de acceder a la configuraci¨®n¡±, dice el profesor.

El smartphone, esa potente computadora que tenemos siempre a mano, que podr¨ªa casi considerarse una prolongaci¨®n de nuestro cuerpo es, a juicio de M¨¢rtil, la caja negra por excelencia: ¡°Es la quintaesencia, el ejemplo perfecto de lo que la microelectr¨®nica ha conseguido, hay uno casi por cada ser humano sobre la Tierra. Cuando lo abrimos solo vemos chips y m¨¢s chips¡±, dice el catedr¨¢tico, porque la miniaturizaci¨®n de la tecnolog¨ªa tambi¨¦n ha contribuido a hacerla m¨¢s opaca: ¡°En esos dispositivos electr¨®nicos diminutos puede haber, sin exagerar, miles de millones de transistores¡±. Son tan peque?os, del orden de los nan¨®metros, que resultan imperceptibles al ojo humano.

• ?Queremos saber?

¡°Vivimos en una sociedad profundamente dependiente de la ciencia y la tecnolog¨ªa en la que nadie sabe nada de estos temas¡±, dijo una vez el c¨¦lebre cient¨ªfico y divulgador Carl Sagan. Las cajas negras nos permiten disfrutar de los avances tecnol¨®gicos, pero, ?ser¨ªa conveniente que los usuarios y la sociedad general fuesen conscientes de lo que hay ah¨ª dentro? ¡°Evidentemente no todos podemos saberlo todo¡±, dice Aibar, ¡°pero ser¨ªa importante que algunos grupos de usuarios entraran ah¨ª y nos dijeran lo que hay¡±.

Las personas y las autoridades van actuando, legislando, viviendo muy por detr¨¢s de lo que la tecnolog¨ªa va proponiendo y adapt¨¢ndose a ella

M¨¢rtil coincide en que no es posible que todos conozcamos todo (al fin y al cabo, a pesar del individualismo contempor¨¢neo, la empresa humana en general, y la ciencia y la tecnolog¨ªa en particular, es una empresa fundamentalmente colectiva), pero s¨ª agradecer¨ªa algo m¨¢s de inter¨¦s en estos asuntos. ¡°Creo que preocuparse por conocer un poco m¨¢s de la tecnolog¨ªa que manejamos servir¨ªa tambi¨¦n para entender la importancia que tiene el conocimiento cient¨ªfico en el mundo actual¡±, opina el catedr¨¢tico. Tambi¨¦n la relaci¨®n, no siempre obvia para todo el mundo, entre los gadgets tecnol¨®gicos y la investigaci¨®n que hacen los cient¨ªficos en sus lejanos y extra?os laboratorios, a veces tan desconocidos y opacos como las cajas negras.

Abrir la caja negra, como propone Latour, permite ¡°una mejor comprensi¨®n¡±, dice Paloma Garc¨ªa D¨ªaz. ¡°As¨ª podemos entender mejor las relaciones que tenemos con la tecnolog¨ªa, ponerla entre interrogantes, investigar c¨®mo otras cuestiones como las sociales, econ¨®micas y pol¨ªticas influyen en la tecnolog¨ªa que tenemos, que no es la ¨²nica posible¡±.

La exposici¨®n Abriendo las cajas negras, que organiz¨® a principios de siglo el Instituto Interuniversitario de Historia de la Medicina y de la Ciencia L¨®pez Pi?ero de Valencia, ahondaba en las cajas negras en la Historia de la Ciencia. All¨ª se mostraba c¨®mo, con el paso del tiempo, muchos instrumentos se iban cajanegrizando: por ejemplo, en un term¨®metro cl¨¢sico el mercurio y la escala de temperaturas puede dar una idea de su funcionamiento, sin embargo, los actuales term¨®metros electr¨®nicos simplemente muestran la temperatura en una pantalla sin dar idea del proceso de medici¨®n.

M¨¢s informaci¨®n

En realidad, ?qu¨¦ [...] es exactamente un algoritmo?

C¨®mo educar a los algoritmos para que no elijan la informaci¨®n por ti

¡°El smartphone es un ejemplo de c¨®mo un instrumento puede ir, adem¨¢s, incluyendo nuevas funciones dentro de la caja negra¡±, dice Jos¨¦ Ram¨®n Bertomeu-S¨¢nchez, director del Instituto. Si bien la caja negra se basa en la confianza que ponemos sobre ella, ¡°estos aparatos pueden incluso realizar funciones de las que no somos conscientes, como ser localizados y rastreados. Son funciones que no siempre han sido validadas por los usuarios¡±. Las cajas negras solo se reabren cuando surge una pol¨¦mica en torno a su empleo, cuando la comunidad cient¨ªfica o la sociedad en conjunto pone en duda su fiabilidad o seguridad. ¡°La confianza es una de las claves de las cajas negras¡±, afirma Bertomeu-S¨¢nchez, ¡°se asume que son herramientas fiables, pero puede haber otros usos, sesgos y resultados imprevistos que los usuarios no tienen en cuenta. De ah¨ª el inter¨¦s de abrir las cajas negras, cuestionarlas, discutirlas, situarlas en su contexto¡±.

• Son¨¢mbulos tecnol¨®gicos

El son¨¢mbulo se levanta por la noche y recorre la casa sumido en la oscuridad, sorteando los muebles, sin problema, hasta que se da en la espinilla con la silla del comedor. Solo entonces se despierta y cae en la cuenta de la existencia del mueble. El te¨®rico pol¨ªtico estadounidense Langdon Winner acu?¨® el t¨¦rmino sonambulismo tecnol¨®gico (por ejemplo, en su obra La ballena y el reactor, una b¨²squeda de los l¨ªmites en la era de la alta tecnolog¨ªa, publicada en Espa?a por Gedisa): se refiere a la humanidad, que camina como son¨¢mbula en un mundo cada vez m¨¢s tecnol¨®gico y sobre el que solo se preocupa cuando algo falla, cuando surge un problema, cuando se estampa contra la pared de la habitaci¨®n a oscuras.

Para Winner tanto los individuos, como la instituciones o gobiernos deber¨ªan prestar m¨¢s atenci¨®n a los cambios que se producen en el mundo tecnol¨®gico, porque la tecnolog¨ªa va mucho m¨¢s all¨¢ de s¨ª misma: el smartphone supuso una revoluci¨®n como gadget prodigioso, pero m¨¢s all¨¢ del silicio, los chips, la electricidad y las ondas, es un ingenio que ha cambiado nuestras mentes y nuestras sociedades, el mundo entero. Y por lo general las personas y las autoridades van actuando, legislando, viviendo muy por detr¨¢s de lo que la tecnolog¨ªa va proponiendo y adapt¨¢ndose a ella.

¡°Desafortunadamente, muchos de los sistemas y dispositivos que nos rodean son dise?ados, construidos y utilizados con una flagrante indiferencia hacia lo humano y lo ecol¨®gico¡±, escribe Winner, ¡°sorprendentemente, la sociedad tecnol¨®gica actual se basa en una colecci¨®n de malos h¨¢bitos heredados de un pasado industrial imprudente¡±. Entre ellos se cuenta la excesiva dependencia de los combustibles f¨®siles, la destrucci¨®n de especies y ecosistemas, la vigilancia como medio de control social, la celebraci¨®n de juguetes t¨¦cnicos como si fueran grandes logros sociales o la contaminaci¨®n y el Cambio Clim¨¢tico. ¡°Una y otra vez¡±, concluye Winner, ¡°se nos insta a celebrar las ¨²ltimas ¡®innovaciones¡¯, independientemente de los compromisos desquiciados y las consecuencias desastrosas que a menudo implican¡±.