Tonto el humano m¨¢s cercano: cuando el algoritmo se equivoca, la culpa es tuya

Mayo de este a?o: un magnate de Hong Kong pierde 20 millones de d¨®lares en una plataforma de inversi¨®n automatizada. Marzo de 2018: un veh¨ªculo aut¨®nomo de Uber mata a un peat¨®n en Tempe (Arizona). Junio de 2009: un avi¨®n de Air France cae sobre el oc¨¦ano Atl¨¢ntico y deja 228 v¨ªctimas mortales despu¨¦s de que una escalada de errores en el piloto autom¨¢tico dejara a los pilotos sin acceso al control del avi¨®n.

Todos estos casos han aparecido juntos en un art¨ªculo de Technology Review porque tienen algo en com¨²n: cuando el algoritmo -o, en definitiva, la m¨¢quina- meti¨® la pata, un humano pag¨® el pato. ?Qui¨¦n? En general, la persona m¨¢s pr¨®xima a la tragedia, una vez establecido que no bastaba se?alar como culpable al sistema automatizado que protagoniz¨® los hechos.

En el caso de la plataforma de inversi¨®n, el magnate ha denunciado al hombre que le vendi¨® la herramienta. En el caso del veh¨ªculo aut¨®nomo, Uber est¨¢ exento de responsabilidad criminal, mientras que el conductor de seguridad que se encontraba en el veh¨ªculo podr¨ªa enfrentarse a cargos de homicidio. En el caso del avi¨®n, la investigaci¨®n determin¨® que lo ocurrido se deb¨ªa a una mezcla de mal dise?o en los sistemas y falta de experiencia en los pilotos, pero la opini¨®n p¨²blica conden¨® a estos ¨²ltimos.

• Da?os aut¨®nomos

"?De qui¨¦n o qu¨¦ es la culpa cuando un algoritmo causa un da?o?", se pregunta Karen Hao, autora de la pieza. El reparto de responsabilidades se complica cuando hay una m¨¢quina por medio. Y estas complicaciones pueden alcanzar cotas insospechadas en funci¨®n de la gravedad de las consecuencias de estos imprevistos.

Hao cita un estudio de la investigadora Madeleine Clare Elish, que repasa todos estos incidentes. En ¨¦l se acu?a el concepto de parachoques moral entendido como la manera en que la responsabilidad de una acci¨®n acaba atribuida a un humano que tuvo escaso control sobre el comportamiento de un sistema automatizado o aut¨®nomo. "Mientras el parachoques de un coche est¨¢ pensado para proteger al conductor humano, el moral protege la integridad de un sistema tecnol¨®gico a expensas del operador humano m¨¢s pr¨®ximo", explica Elish.

• Momento clave

La investigadora no se adentra en el jard¨ªn de las responsabilidades legales. Se limita a la percepci¨®n cultural de la culpa y la responsabilidad en el contexto de las tecnolog¨ªas emergentes y las consecuencias de ella. "En lo relativo a tecnolog¨ªas aut¨®nomas y rob¨®ticas, la regulaci¨®n, las leyes y las normas est¨¢n a¨²n en formaci¨®n y podr¨ªan ser particularmente susceptibles de derivar en incertezas e incluso evasiones de responsabilidad", se?ala.

?Su propuesta? Tomar este parachoques moral como un reto y una oportunidad para el dise?o y regulaci¨®n de sistemas en los que colaboran humanos y robots. "En juego est¨¢ no solo en modo en que se distribuye la rendici¨®n de cuentas en sistemas aut¨®nomos y rob¨®ticos, tambi¨¦n el valor y el potencial que los humanos puedan desarrollar en el contexto de equipos humano-m¨¢quina".

M¨¢s informaci¨®n

T¨², t¨² mismo y tu avatar: ?y si el robot que habitas se l¨ªa y mata a alguien?

La m¨¢quina de la moral y otras ideas para que los coches tomen decisiones correctas