Fallos t¨¦cnicos desastrosos que pasaron desapercibidos demasiado tiempo

Hace unos d¨ªas ha surgido una interesante controversia sobre un fallo inform¨¢tico que combinado con ciertas malas pr¨¢cticas ha puesto en entredicho algunos trabajos cient¨ªficos de investigaci¨®n de los ¨²ltimos 15 a?os. Aunque el problema no result¨® ser tan grave como se cre¨ªa inicialmente despert¨® el fantasma que sobrevuela cada vez que un peque?o bug inform¨¢tico (un error de software conocido como bicho) provoca alguna cat¨¢strofe en una m¨¢quina o sistema de control complejo. ?Tan dif¨ªcil es crear software completamente exento de fallos? ?No se pueden prever todos los problemas que pueden surgir? ?Es seguro encomendar tareas cr¨ªticas a algo tan et¨¦reo como un algoritmo que puede fallar?

Es imposible prever todos los problemas que pueden surgir. Hay programas en los que las variables toman valores imposibles o no previstos

En la pr¨¢ctica es imposible prever todos los problemas que pueden surgir; hay programas en los que las variables toman valores imposibles o no previstos, fallos que afectan a los sistemas operativos sobre los que corren esos programas o incluso problemas de fondo muy dif¨ªciles de descubrir que dan al traste con cualquier prueba previa. Por poner algunos ejemplos de bugs sorpresa: hace a?os, una divisi¨®n por cero dej¨® un crucero militar tres horas a la deriva hasta que se localiz¨® el fallo; tambi¨¦n se sabe que varias sondas espaciales y experimentos fracasaron estrepitosamente por la falta de una coma decimal o por haber confundido las unidades (como millas n¨¢uticas por pies) y que ha habido diversos fallos en los pilotos autom¨¢ticos de ciertos aviones, normalmente de combate.

D¨¦cadas de estudios cuestionados

El caso m¨¢s reciente est¨¢ relacionado con las t¨¦cnicas de la imagen por resonancia magn¨¦tica funcional (fMRI). El problema se encontr¨® en el software que agrupa en "zonas de actividad" los v¨®xeles (p¨ªxeles 3D) en que se reconstruye el cerebro a partir de im¨¢genes 2D. Seg¨²n unos investigadores suecos las "agrupaciones de zonas de actividad" que los radi¨®logos y neur¨®logos luego examinan con su experiencia y buen saber para validar sus hip¨®tesis ven¨ªan sesgadas por bugs y fallos estad¨ªsticos en el software con el que se hab¨ªan procesado.

Uno de los fallos hist¨®ricos m¨¢s complejos de detectar por inusual y casi inconcebible fue el de los c¨¢lculos err¨®neos del procesador Pentium de Intel

El resultado es que han podido darse m¨¢s "falsos positivos" de lo normal en cerca de 3.500 estudios (originalmente se hablaba de 40.000 pero luego se redujo el n¨²mero). Como para mayor desgracia en muchos de esos trabajos no se publican ni guardan los datos originales de las fMRI ¨Csino solo los resultados ya agrupados¨C no es posible examinar los originales para realizar una comprobaci¨®n. Por fortuna esto solo habr¨ªa afectado a ciertas fMRI, no a todas que se procesan por otros m¨¦todos, por lo que muchos otros estudios no se habr¨ªan visto afectados.

Pentium: m¨¢s de un a?o calculando regular

Uno de los fallos hist¨®ricos m¨¢s complejos de detectar por inusual y casi inconcebible fue el de los c¨¢lculos err¨®neos del procesador Pentium de Intel. Este chip presentado en 1993 inclu¨ªa una ?unidad de coma flotante? para acelerar los c¨¢lculos, pero por alguna raz¨®n algunos de esos c¨¢lculos (divisiones) no arrojaban el resultado correcto. Por ejemplo, el Pentium original calculaba 4195835,0 / 3145727,0 = 1,333739¡­ cuando el resultado real es 1,333820¡­ Cualquiera pod¨ªa comprobarlo con Excel, la Calculadora de Windows o cualquier programa escrito en Basic.

El fallo lo detect¨® un profesor que se pasaba el d¨ªa mascando n¨²meros: andaba investigando ciertas secuencias de n¨²meros primos cuando observ¨® ciertas extra?as diferencias que no supo atribuir a problemas de software. Luego record¨® que hab¨ªa incorporado recientemente un PC equipado con un Pentium a sus equipos de c¨¢lculo. Bug cazado.

Ni siquiera Intel conoc¨ªa el bug cuando se lo comunicaron por primera vez, cuanto m¨¢s se investigaba su procedencia m¨¢s problemas y desviaciones surg¨ªan por todas partes. Se lleg¨® a calcular que uno cada 9.000 millones de divisiones hechas por un Pentium ser¨ªa err¨®nea; algunas en hasta 61 partes por mill¨®n. Con billones de estas divisiones cada segundo calcul¨¢ndose en ordenadores de todo el mundo ¨Calgunos de ellos realmente en tareas realmente cr¨ªticas¨C no era una cuesti¨®n balad¨ª.

El problema de este bug es que afectaba a todo software que corriera sobre el ordenador: el software simplemente no pod¨ªa fiarse de que los c¨¢lculos b¨¢sicos fueran correctos. Tras detectar el origen del problema Intel tuvo que reemplazar todos los procesadores defectuosos, lo que supuso cerca de 500 millones de d¨®lares de la ¨¦poca. Un dineral por culpa de tener unas tablas de dividir err¨®neas grabadas en aquellos chips.

En el campo de la medicina se siempre recuerda el bug del software del dispositivo m¨¦dico de radioterapia Therac-25 de 1982

Errores de vida o muerte

En el campo de la medicina se siempre recuerda el bug del software del dispositivo m¨¦dico de radioterapia Therac-25 de 1982. Debido a un fallo del software de control esta m¨¢quina irradiaba en raras ocasiones una sobredosis cientos de veces superior a la debida a los pacientes; murieron al menos tres personas debido a ello.

El fallo del Therac-25 fue toda una serie de desdichas: eliminaci¨®n de hardware de seguridad para confi¨¢rselo al software, fallos de programaci¨®n, manipulaci¨®n err¨®nea por parte de los operadores¡­ El caso era que si se pulsaba cierta secuencia de teclas err¨®neamente en un breve periodo de tiempo se produc¨ªa el fallo y despu¨¦s la dosis de radiaci¨®n pasaba a ser mortal. Debido a las complejas circunstancias que lo activaban, este bug pas¨® inadvertido m¨¢s de un a?o; luego se revisaron todas las m¨¢quinas y el software que incorporaban. El lado bueno de este desastre fue que concienci¨® a todo tipo de profesionales, tanto m¨¦dicos como inform¨¢ticos, acerca de la necesidad de m¨¢s y mejores pruebas en este tipo de sistemas.