El hombre y la m¨¢quina

La cat¨¢strofe del avi¨®n en Los Alpes, y la investigaci¨®n de sus causas, han puesto sucesivamente sobre la mesa varios debates, unos de tipo legal, otros de naturaleza ¨¦tica, y otros de car¨¢cter m¨¢s pr¨¢ctico. Sin creer en absoluto que yo tenga soluciones, quiero referirme a la discusi¨®n sobre si es m¨¢s prudente confiar nuestra seguridad a la calidad de las m¨¢quinas o dejarla en manos de la competencia de las personas. Vale la pena notar que es un debate que no ha podido existir hasta que las personas hemos sido capaces de crear m¨¢quinas de gran perfecci¨®n, al combinar la precisi¨®n mec¨¢nica con la gran capacidad de proceso y transmisi¨®n digital de la informaci¨®n. Ahora es un debate posible y comprensible¡­

Empiezo con una an¨¦cdota. Visitando en Osaka, d¨¦cada de los 80, una f¨¢brica de televisores, expres¨¦ mi sorpresa por el alto grado de automatizaci¨®n de sus procesos, la abundancia de robots, y la casi ausencia personas. El director de la empresa, con mucha sorna, me dijo: ¡°No se extra?e, se?or; tenemos otra f¨¢brica de mayor capacidad y m¨¢s moderna en la que solo tenemos a un hombre y a un perro. El hombre para dar de comer al perro, y el perro para asegurar que el hombre no toque nada de las m¨¢quinas¡­¡±. Aceptando la broma, le contest¨¦: ¡°Es fant¨¢stico, pero el d¨ªa que se produzca una inundaci¨®n por un escape de agua, supongo que el hombre podr¨¢ matar al perro y solucionar-lo¡­¡±. Han pasado muchos a?os; pero creo que, a pesar de los grandes progresos t¨¦cnicos, este razonamiento no ha caducado.

Parece que la desgracia del avi¨®n la ha provocado un hombre, igual que parece que fue la actuaci¨®n del conductor la que provoc¨® el accidente del Alvia en Galicia, hace unos a?os. Es comprensible que en estas ocasiones se alcen voces a favor de reclamar m¨¢s pilotos autom¨¢ticos, sea del avi¨®n, del tren, del metro, del tranv¨ªa o, pronto, del autob¨²s. Son voces que suponen que el ordenador estar¨¢ menos expuesto a equivocarse que el hombre, como ocurre cuando hacemos una ra¨ªz cuadrada¡­ Y son voces que no est¨¢n desencaminadas, pero que hay que matizar enfocando bien el problema.

Las m¨¢quinas autom¨¢ticas, es decir operadas por un ordenador, han experimentado un progreso extraordinario y son capaces de igualar o superar la pericia de un operador humano. Todos hemos viajado, a veces sin saberlo, en veh¨ªculos de este tipo, cuya presencia seguir¨¢ aumentando extraordinariamente. Pero no podemos olvidar que tanto las personas como los ordenadores distan mucho de ser perfectos. Ambos est¨¢n expuestos a fallos internos, y sobre todo, ambos van a tener que reaccionar ante situaciones externas imprevistas. Y aqu¨ª una parte del problema.

Hemos de plantear una disyuntiva: en qu¨¦ tareas preferimos que act¨²en las personas y en cu¨¢les es mejor que lo hagan las m¨¢quinas

Vuelvo al Jap¨®n. La central nuclear de Fukushima ten¨ªa unos sistemas de seguridad extraordinarios que probablemente hubieran reaccionado correctamente, evitando una cat¨¢strofe, ante cualquier fallo interno; pero no ten¨ªa previsto que un tsunami pudiera dejar sin electricidad a todos sus equipos. Fueron sus trabajadores, y algunos de sus jubilados, los que tuvieron que sacrificar sus vidas para reducir en lo posible las consecuencias. No creo que cualquier central nuclear moderna pudiera evitar originar un gran desastre, si sufriera el impacto de un avi¨®n.

Como en tantas otras ¨¢reas de la vida hemos de plantear una disyuntiva: en qu¨¦ tareas preferimos que act¨²en las personas y en cu¨¢les es mejor que lo hagan las m¨¢quinas. Creo que ser¨¢ bueno que combinemos unas y otras. Por ello formulo el problema de la seguridad de la siguiente manera: ?Hemos de organizar nuestros sistemas de forma que el hombre vigile a la m¨¢quina y pueda desautorizar al ordenador, o debemos hacer que el ordenador de la m¨¢quina vigile al hombre e imponga su criterio? Yo me inclino por lo primero: en ¨²ltima instancia, debe primar la persona, que yo creo m¨¢s capaz.

Volvamos al Airbus. En condiciones de funcionamiento normal, el pilotaje autom¨¢tico puede dar m¨¢s tranquilidad que el manual, ya que evita errores debidos a falta de atenci¨®n, confusi¨®n, u otras debilidades humanas. Pero en condiciones extraordinarias, fruto de situaciones imprevistas o de una gravedad superior a la esperada, el mando sobre la m¨¢quina debe estar en ¨²ltima instancia en manos del hombre. En el caso del que hablamos, en manos del comandante de la nave. Es l¨®gico que el blindaje autom¨¢tico de la cabina impida que alguien sin permiso pueda entrar en ella, pero ni el ordenador ni nadie deber¨ªan haber impedido la entrada al comandante, y por tanto este deber¨ªa poder anular desde fuera de la cabina y, con la adecuada identificaci¨®n, el sistema de blindaje. El comandante es el responsable m¨¢ximo del aparato y est¨¢ por encima de la tripulaci¨®n y del ordenador de a bordo. Por tanto debe poder impedir que cualquier otra persona utilice el ordenador y los sistemas de seguridad en contra de sus instrucciones. En este caso, el ordenador impidi¨® que el comandante ejerciera su autoridad respecto de un subordinado¡­Es un protocolo que hay que mejorar.

Es evidente que con ello no conseguir¨ªamos un sistema totalmente seguro, ya que este no existe. Pero ser¨ªa un paso hacia una mayor seguridad, una m¨¢s clara determinaci¨®n de causas, y una mejor atribuci¨®n de responsabilidades.

Joan Maj¨® es ingeniero y exministro