L¡¯home i la m¨¤quina

La cat¨¤strofe de l'avi¨® als Alps, i la investigaci¨® de les seves causes, han posat successivament sobre la taula diversos debats, uns de tipus legal, uns altres de naturalesa ¨¨tica, i uns altres de car¨¤cter m¨¦s pr¨¤ctic. Sense creure en absolut que jo tingui solucions, vull referir-me a la discussi¨® sobre si ¨¦s m¨¦s prudent confiar la nostra seguretat a la qualitat de les m¨¤quines o deixar-la en mans de la compet¨¨ncia de les persones. Val la pena observar que ¨¦s un debat que no ha pogut existir fins que les persones hem estat capaces de crear m¨¤quines de gran perfecci¨®, combinant la precisi¨® mec¨¤nica amb la gran capacitat de proc¨¦s i transmissi¨® digital de la informaci¨®. Ara ¨¦s un debat possible i comprensible¡­

Comen?o amb una an¨¨cdota. Visitant a Osaka, d¨¨cada dels vuitanta, una f¨¤brica de televisors, vaig expressar la meva sorpresa per l'alt grau d'automatitzaci¨® dels seus processos, l'abund¨¤ncia de robots, i la gaireb¨¦ abs¨¨ncia persones. El director de l'empresa, amb molta sorna, em va dir: ¡°No s'estranyi, senyor; tenim una altra f¨¤brica de m¨¦s capacitat i m¨¦s moderna en la qual nom¨¦s tenim un home i un gos. L'home per donar menjar al gos, i el gos per assegurar que l'home no toca res de les m¨¤quines¡­¡±. Acceptant la broma, li vaig contestar: ¡°?s fant¨¤stic, per¨° el dia que es produeixi una inundaci¨® per una fuita d'aigua, suposo que l'home podr¨¤ matar el gos i solucionar-ho¡­¡±. Han passat molts anys; per¨° crec que, malgrat els grans progressos t¨¨cnics, aquest raonament no ha caducat.

Sembla que la desgr¨¤cia de l'avi¨® l'ha provocat un home, igual que sembla que va ser l'actuaci¨® del conductor la que va provocar l'accident de l'Alvia a Gal¨ªcia, fa uns anys. ?s comprensible que en aquestes ocasions s'alcin veus a favor de reclamar m¨¦s pilots autom¨¤tics, sigui de l'avi¨®, del tren, del metro, del tramvia o, aviat, de l'autob¨²s. S¨®n veus que suposen que l'ordinador estar¨¤ menys exposat a equivocar-se que l'home, com passa quan fem una arrel quadrada¡­ I s¨®n veus que no estan desencaminades, per¨° que cal matisar enfocant b¨¦ el problema.

Les m¨¤quines autom¨¤tiques, ¨¦s a dir, operades per un ordinador, han experimentat un progr¨¦s extraordinari i s¨®n capaces d'igualar o superar la per¨ªcia d'un operador hum¨¤. Tots hem viatjat, de vegades sense saber-ho, en vehicles d'aquest tipus, la pres¨¨ncia dels quals seguir¨¤ augmentant extraordin¨¤riament. Per¨° no podem oblidar que tant les persones com els ordinadors disten molt de ser perfectes. Tots dos estan exposats a errors interns, i sobretot, tots dos hauran de reaccionar davant de situacions externes imprevistes. I aqu¨ª hi ha una part del problema.

Hem de plantejar una disjuntiva: en quines tasques preferim que actu?n les persones i en quines ¨¦s millor que ho facin les m¨¤quines

Anem al Jap¨®. La central nuclear de Fukushima tenia uns sistemes de seguretat extraordinaris que probablement haurien reaccionat correctament, evitant una cat¨¤strofe, davant de qualsevol error intern; per¨° no tenien previst que un tsunami pogu¨¦s deixar sense electricitat tots els seus equips. Van ser els seus treballadors, i alguns dels seus jubilats, els que van haver de sacrificar la vida per reduir en la mesura del possible les conseq¨¹¨¨ncies. No crec que qualsevol central nuclear moderna pogu¨¦s evitar originar un gran desastre si reb¨¦s l'impacte d'un avi¨®.

Com en tantes altres ¨¤rees de la vida hem de plantejar una disjuntiva: en quines tasques preferim que actu?n les persones i en quines ¨¦s millor que ho facin les m¨¤quines. Crec que ser¨¤ bo que combinem les unes i les altres. Per aix¨° formulo el problema de la seguretat de la seg¨¹ent manera: Hem d'organitzar els nostres sistemes de manera que l'home vigili la m¨¤quina i pugui desautoritzar l'ordinador, o hem de fer que l'ordinador de la m¨¤quina vigili l'home i imposi el seu criteri? Jo m'inclino pel primer: en ¨²ltima inst¨¤ncia, ha de prevaler la persona, que jo crec m¨¦s capa?.

Tornem a l'Airbus. En condicions de funcionament normal, el pilotatge autom¨¤tic pot donar m¨¦s tranquil¡¤litat que el manual, ja que evita errors per culpa de falta d'atenci¨®, confusi¨® o altres debilitats humanes. Per¨° en condicions extraordin¨¤ries, fruit de situacions imprevistes o d'una gravetat superior a l'esperada, el comandament sobre la m¨¤quina ha d'estar en ¨²ltima inst¨¤ncia en mans de l'home. En el cas de qu¨¨ parlem, en mans del comandant de la nau. ?s l¨°gic que el blindatge autom¨¤tic de la cabina impedeixi que alg¨² sense perm¨ªs pugui entrar-hi, per¨° ni l'ordinador ni ning¨² haurien d'haver impedit l'entrada al comandant, i per tant aquest hauria de poder anul¡¤lar des de fora de la cabina i, amb l'adequada identificaci¨®, el sistema de blindatge. El comandant ¨¦s el responsable m¨¤xim de l'aparell i est¨¤ per sobre de la tripulaci¨® i de l'ordinador de bord. Per tant, ha de poder impedir que qualsevol altra persona utilitzi l'ordinador i els sistemes de seguretat en contra de les seves instruccions. En aquest cas, l'ordinador va impedir que el comandant exerc¨ªs la seva autoritat respecte d'un subordinat¡­ ?s un protocol que cal millorar.

?s evident que amb aix¨° no aconseguir¨ªem un sistema totalment segur, ja que aquest no existeix. Per¨° seria un pas cap a una major seguretat, una m¨¦s clara determinaci¨® de causes, i una millor atribuci¨® de responsabilitats.

Joan Maj¨® ¨¦s enginyer i exministre