Los coches autotripulados y los humanos

El pasado a?o se produjo el primer accidente con v¨ªctimas mortales de un coche autotripulado, es decir, completamente conducido por software. Iron¨ªas del destino, el fallecido era uno de los m¨¢s fervientes defensores de este tipo de tecnolog¨ªas.

Sin embargo, esa muerte ha disparado todas las alarmas y ya hay voces que cuestionan si los programas software puedan tener autonom¨ªa completa sobre ciertas funciones, y en particular la de conducir de forma aut¨®noma. Que si no son lo suficientemente seguros. Incluso se ha dicho que la autoconducci¨®n no conlleva desentenderse de los mandos (entonces, ?para qu¨¦ est¨¢? se pregunta uno).

Pero el problema no creo que sea la seguridad, la tecnolog¨ªa, ni siquiera el software. Aqu¨ª se trata de un tema de confianza y, m¨¢s concretamente, de ¨¦tica y de empat¨ªa. Veamos por qu¨¦.

No es una cuesti¨®n s¨®lo de seguridad, pues estos coches son m¨¢s seguros que el resto

Desde luego, no es una cuesti¨®n s¨®lo de seguridad, pues estos coches son m¨¢s seguros que el resto. Esta ha sido la primera v¨ªctima mortal tras 215 millones de kil¨®metros recorridos por coches autotripulados, frente a 99 millones de kil¨®metros que separan una v¨ªctima de otra en los coches tradicionales. Es decir, un 64 % m¨¢s. ?Imaginemos la ganancia en vidas que supondr¨ªa bajar un 36 % los accidentes mortales de tr¨¢fico!

Tras analizar el accidente, parece que la causa fue que ni la c¨¢mara del coche ni el radar pudieron distinguir al cami¨®n que apareci¨® de pronto, totalmente blanco en un d¨ªa de sol resplandeciente. Esto no ser¨ªa noticia si el que hubiera ido conduciendo fuera un humano, que hubiera perdido el control del coche al quedar cegado por la luz, una causa com¨²n entre los accidentes de coche. Sin embargo, ?por qu¨¦ nos parece alarmante que le suceda a una m¨¢quina?

Aqu¨ª es donde entra en juego la psicolog¨ªa, y los sentimientos entran en conflicto con la l¨®gica. Ante un accidente o una situaci¨®n tr¨¢gica debida a un error, por empat¨ªa los humanos solemos perdonar (o al menos comprender) a los seres similares a nosotros. Porque nos podr¨ªa pasar a nosotros mismos. Mientras m¨¢s cercano y af¨ªn, m¨¢s empat¨ªa, y por tanto m¨¢s comprensi¨®n y menos rechazo a sus acciones.

Ante un accidente o una situaci¨®n tr¨¢gica debida a un error, por empat¨ªa los humanos solemos perdonar a los seres similares a nosotros. Porque nos podr¨ªa pasar a nosotros mismos

Otra situaci¨®n similar ocurre cuando se trata de tomar decisiones que implican vidas humanas. Imaginemos a un coche no tripulado que tiene que tomar la decisi¨®n de atropellar a unos peatones o estrellarse contra un muro y matar a sus ocupantes. Cualquier decisi¨®n que tomase un humano en esa situaci¨®n, bastante cr¨ªtica, ser¨ªa aceptada por la sociedad sin problemas. O, por lo menos, lo entender¨ªamos. Sin embargo, cualquier decisi¨®n que tomase una m¨¢quina, fuera cual fuese, provocar¨ªa un rechazo inmediato (v¨¦ase, por ejemplo, el interesante art¨ªculo ?Comprar¨ªas un coche que elegir¨¢ matarte para salvar otras vidas?).

?Cu¨¢l es el motivo de todo esto?

Lo importante es observar que el problema no est¨¢ en la propia decisi¨®n, sino en quien la toma. No es cuesti¨®n de seguir a rajatabla unos preceptos o una l¨®gica perfecta, como seguir¨ªa un programa de ordenador, que posiblemente evaluar¨ªa la edad de los ocupantes y de los peatones y decidir¨ªa lo que es mejor para la mayor¨ªa; sino de comprender al que toma la decisi¨®n y entender que en su lugar uno hubiera hecho lo mismo. El principal motivo es que nuestra comprensi¨®n depende fundamentalmente de la empat¨ªa con quien toma la decisi¨®n y de lo similares que sean nuestros c¨®digos ¨¦ticos.

La cuesti¨®n es si estamos dispuestos a dejarles realizar dichas funciones y aceptar sus decisiones y sus fallos

En resumen, la pregunta clave no creo que sea si las m¨¢quinas, a trav¨¦s de la inteligencia artificial o de la l¨®gica tradicional, pueden tomar decisiones o no, o llevar a cabo la mayor¨ªa de los trabajos y funciones que realizamos ahora los humanos con tanta o m¨¢s seguridad que lo hacemos nosotros. De esto estoy seguro que s¨ª, y en un futuro bastante cercano.

La cuesti¨®n es si estamos dispuestos a dejarles realizar dichas funciones y aceptar sus decisiones y sus fallos (que tambi¨¦n tendr¨¢n, aunque en significante menor medida que nosotros). Y la respuesta, por ahora, es que no. Al menos, hasta que tengamos una mayor empat¨ªa con ellas. Y eso significa, entre otras cosas, compartir con ellas un c¨®digo ¨¦tico y unos valores morales, y que podamos comprender sus reacciones, asumir sus decisiones y sus errores, y aceptar sus consecuencias. As¨ª que ya no se trata solo de inteligencia y de l¨®gica, sino tambi¨¦n, y muy especialmente, de sentimientos, de ¨¦tica y de empat¨ªa.

Ahora bien¡­ ?de verdad seremos capaces de tener empat¨ªa con las m¨¢quinas?