?tica digital

Hace unas semanas, Miguel ?ngel Criado public¨® un art¨ªculo en este mismo diario bajo el inquietante t¨ªtulo ?A qui¨¦n matar¨ªa un coche aut¨®nomo? En ¨¦l comentaba los resultados de una investigaci¨®n publicada en la revista Nature,que recog¨ªa las opiniones de dos millones de personas, enfrentadas a diversos dilemas relacionados con lo que se ha dado en llamar ¡°coches aut¨®nomos¡±. Si un coche no tuviera m¨¢s remedio que matar a alg¨²n ser vivo, ?a cu¨¢l deber¨ªa sacrificar: animal o ser humano, ocupantes del veh¨ªculo o viandantes, persona joven o anciana?

Es este un tipo de dilema que, aunque en un contexto distinto, plante¨® ya Philippa Foot en 1967 y que se ha reproducido en m¨²ltiples versiones, haciendo las delicias, por ejemplo, de un buen n¨²mero de neurocient¨ªficos. Diana viaja en un tranv¨ªa que circula sin control y que se dirige hacia cinco excursionistas que caminan por la v¨ªa, a los que va a atropellar sin remedio. Diana puede desviar el tranv¨ªa accionando una palanca, pero entonces atropellar¨¢ a un operario, que est¨¢ trabajando en una v¨ªa lateral. ?Qu¨¦ debe hacer? La respuesta no es sencilla, porque cabe pensar que cinco vidas valen m¨¢s que una, pero tambi¨¦n que Diana debe dejar el trolley en manos de la suerte, porque toda vida es sagrada y ella no tiene por qu¨¦ responsabilizarse de una muerte; o tambi¨¦n que el pobre operario est¨¢ en su trabajo, mientras que los excursionistas pod¨ªan llevar m¨¢s cuidado. En cualquier caso, la pregunta urgente ante los dos dilemas es sin duda: ?hay alguna diferencia entre el coche aut¨®nomo y Diana? La hay, y es pr¨¢cticamente infinita.

Diana es un ser humano, y, por lo tanto, tiene una inteligencia general, ligada a un cuerpo, que le lleva a vivir en conexi¨®n con un entorno natural y social, es sensible a valores y necesidades humanas, ha acumulado experiencias a lo largo de su vida. Tiene eso que en ocasiones mencionamos con desprecio y, sin embargo, es una aut¨¦ntica joya: tiene sentido com¨²n.

El veh¨ªculo, por el contrario, est¨¢ ya programado para tomar decisiones, que seguir¨¢n una pauta similar en otras ocasiones, y, sobre todo, su inteligencia es particular, y no general, como la humana. Asombrosamente, un sistema inteligente puede ganar a Kasp¨¢rov jugando al ajedrez y, sin embargo, no tiene un cuerpo que le permita sintonizar con el entorno, es ajeno a necesidades y valores humanos, carece de una inteligencia general, no tiene sentido com¨²n. Por eso, y a pesar de que haya hecho fortuna la expresi¨®n ¡°veh¨ªculo aut¨®nomo¡±, no lo es. Es aut¨®mata, y no aut¨®nomo; otros le han inscrito las pautas a seguir. Y esta distinci¨®n es de la mayor trascendencia.

Dado que el coche es un aut¨®mata, no es responsable de las actuaciones, y por eso es esencial construirlo con sesgos que respeten los c¨®digos ¨¦ticos valiosos. ?Cu¨¢les son esos c¨®digos?

Un veh¨ªculo es ¡®aut¨®mata¡¯, y no ¡®aut¨®nomo¡¯, porque otros le han inscrito las pautas a seguir

Ciertamente, el experimento de Nature se propon¨ªa averiguar las preferencias de las personas en distintas culturas, pero no para programar los coches autom¨¢ticos atendiendo a las preferencias de la mayor¨ªa, porque de la constataci¨®n de lo que el mayor n¨²mero valora no se sigue que eso sea lo ¨¦ticamente correcto. Como Criado recuerda, la encuesta trataba de averiguar qu¨¦ acogida iban a tener entre el p¨²blico las normas que pudieran proponerse, y, obviamente, las sensibilidades culturales eran bien diversas. La pregunta es entonces ¡°qu¨¦ hacer¡±, qu¨¦ ¨¦tica puede pensarse para un mundo digital, como el nuestro, que es multicultural.

Dec¨ªa Karl-Otto Apel hace ya m¨¢s de medio siglo que las consecuencias de la ciencia y de la t¨¦cnica hab¨ªan alcanzado un nivel planetario y que, por lo tanto, asumirlas con bien reclamaba una ¨¦tica universal; no en los contenidos de lo que debe ser una vida feliz, pero s¨ª en exigencias de justicia que deber¨ªan ser satisfechas en todo el planeta. Y si ya entonces Apel llevaba raz¨®n, el tiempo no ha hecho sino reforzarla, porque la era digital reclama orientaciones ¨¦ticas comunes en materia de justicia.

Afortunadamente, distintos organismos est¨¢n asumiendo su responsabilidad en este asunto y surgen propuestas de marcos ¨¦ticos como la Declaraci¨®n del Grupo de la Comisi¨®n Europea sobre Inteligencia Artificial, rob¨®tica y sistemas aut¨®nomos, los Principios Asilomar de la Inteligencia Artificial o la Declaraci¨®n de Derechos Humanos para un Entorno Digital, que la Universidad de Deusto present¨® el pasado 26 de noviembre.

Si puede hablarse de que las generaciones de derechos humanos han ido teniendo por br¨²jula valores ¨¦ticos, como la libertad, la igualdad y la solidaridad, el mundo digital reclamar¨ªa nuevos derechos, que podr¨ªan tener por norte el valor de la inclusi¨®n compasiva. Porque no hay justicia sin compasi¨®n.

Los progresos de la digitalizaci¨®n han de estar al servicio de todos y de la sostenibilidad del planeta

Por su parte, el AI4People del Atomium European Institute sugiere que una ¨¦tica para entornos digitales cuente con cuatro principios cl¨¢sicos, aplicados al nuevo mundo, a los que a?adir¨ªa un quinto: la explicabilidad y la accountability. Los principios cl¨¢sicos ser¨ªan el de beneficencia, que exigir¨ªa ahora poner los progresos de la digitalizaci¨®n al servicio de todos los seres humanos y la sostenibilidad del planeta; el de no maleficencia, que ordenar¨ªa evitar los da?os posibles, protegiendo a las personas en cuestiones de privacidad, mal uso de los datos, en la posible sumisi¨®n a decisiones tomadas por m¨¢quinas y no supervisadas por seres humanos; pero tambi¨¦n el principio de autonom¨ªa de las personas, que puede fortalecerse con el uso de sistemas inteligentes, y en cuyas manos deben ponerse tanto el control como las decisiones significativas; y, por supuesto, el principio de justicia, que exige distribuir equitativamente los beneficios. A ellos se a?adir¨ªa un principio de explicabilidad y accountability, porque los afectados por el mundo digital tienen que poder comprenderlo.

Afortunadamente, como vemos, organismos rigurosos, muy especialmente de la Uni¨®n Europea, est¨¢n trabajando activamente en dise?ar una ¨¦tica digital, y esta es una m¨¢s de las infinitas razones que existen para fortalecer Europa, en vez de debilitarla, menos a¨²n de disolverla.

Y en Espa?a es urgente, como m¨ªnimo, potenciar la ense?anza de la ¨¦tica con una asignatura en 4? de la Ense?anza Secundaria Obligatoria. No es una cuesti¨®n gremial, sino de sentido com¨²n que, al parecer, es el gran logro de la inteligencia humana.

Adela Cortina es catedr¨¢tica de ?tica y Filosof¨ªa Pol¨ªtica de la Universidad de Valencia, miembro de la Real Academia de Ciencias Morales y Pol¨ªticas y directora de la Fundaci¨®n ?TNOR.