A Hoan Ton-That no le importa la Convenci¨®n de Ginebra

Ya es historia antigua c¨®mo hemos dejado crecer sin control a los grandes titanes de los datos bajo el mantra incuestionable de que el desarrollo tecnol¨®gico no solo es bueno, sino que es un imperativo categ¨®rico. Se nos presenta la tecnolog¨ªa como un hecho de Dios, un tsunami que nos anega sin remisi¨®n, y no como lo que en muchas ocasiones es: la ¨²ltima ocurrencia de un adolescente prologado al que le han dado tanto dinero para llevar adelante su idea que cree que todo lo que la encorseta es algo caduco que ha de morir por el mero hecho de que se oponga a su voluntad. Siglos de evoluci¨®n de derechos y de luchas para obtenerlos finiquitados por la pataleta de un fundador.

Tal vez sea este el caso de Hoan Ton-That, inform¨¢tico australiano, modelo, descendiente por parte de padre de la familia real vietnamita ¡ª o eso dice ¨¦l en su propio perfil ¡ª y fundador de Clairview IA, una de las aplicaciones m¨¢s controvertidas (y ya es decir) de los ¨²ltimos a?os. Clairview se presenta como una base de datos de im¨¢genes recopiladas sin consentimiento alguno de sus titulares, que usa un algoritmo de inteligencia artificial ¡°libre de sesgos¡± y que permite a las fuerzas de seguridad encontrar con precisi¨®n cualquier rostro entre los tres mil millones de im¨¢genes que ha recabado de la Internet p¨²blica. Si te han hecho alguna vez una foto y la han subido a Facebook, si la has facilitado para aquella conferencia que diste en Cuenca o alguien te ha grabado en el auditorio en el que estabas, tu cara est¨¢ sin duda en la base de datos de Clairview.

Como todas las tecnol¨®gicas dise?adas desde el desprecio a los principios ¨¦ticos y a la legalidad aplicable, nos la venden con el mantra de que solo se usa para el bien, incluso para el bien supremo de proteger a la sociedad de la escoria que se dedica a la trata de personas y a los delitos contra los ni?os ?Qui¨¦n no podr¨ªa estar de acuerdo con tan noble motivo conseguido con los medios err¨®neos? El pensador Jeremy Bentham me dir¨ªa que esta herramienta crea m¨¢s felicidad social de la que destruye, y que los individuos afectados bien destruidos est¨¢n.

Pero como todo modelo que desconoce la dignidad humana y los principios y derechos que emanan de ella, Clairview no se limita a luchar contra el mal m¨¢s perverso, sino que permite un uso banal muy peligroso: identificar a casi cualquier humano que pisa la superficie terrestre. Basta con tomar una foto a alguien con quien nos cruzamos por la calle y compararla con la base de datos obtenida de Facebook, YouTube, Venmo o cualquier sitio web para saber qui¨¦n es. Es el para¨ªso de los acosadores. Adem¨¢s, permite que las fuerzas del orden que la usan en EE UU lo hagan sin el m¨¢s m¨ªnimo control p¨²blico y sin transparencia, lo que ser¨¢ tambi¨¦n de enorme alegr¨ªa a los que vivan felices en estados policiales. Dudo mucho que ning¨²n estado se hubiera atrevido a hacer nada semejante, pero si se lo brinda la colaboraci¨®n p¨²blico-privada ya es harina de otro costal.

Y aqu¨ª viene otro uso inesperado de Clearview, como instrumento de guerra. Hemos le¨ªdo que ej¨¦rcito ucraniano se est¨¢ poniendo en contacto con las madres de los soldados rusos muertos a quienes identifican mediante la herramienta de reconocimiento facial de Clearview AI. El IT Army ucraniano, una fuerza voluntaria de activistas y piratas inform¨¢ticos, ha realizado m¨¢s de 8.600 b¨²squedas y ha comunicado a las familias de 582 rusos que sus hijos, esposos o padres hab¨ªan muerto. En algunos casos, incluso enviaron fotos de los cad¨¢veres rusos.

Es innegable que los ucranianos no han inventado el uso de los muertos durante un conflicto como un arma de guerra m¨¢s ¡ª y, reconozc¨¢moslo, si esta pr¨¢ctica la hubiera llevado a cabo el ej¨¦rcito de Putin todo el mundo habr¨ªa puesto el grito en el cielo ¡ª, pero la dignidad humana no se acaba cuando morimos ni cuando luchamos del lado equivocado, o al menos as¨ª se reconoce en nuestro sistema legal. Parece contraintuitivo esperar humanidad en una guerra, la expresi¨®n m¨¢xima de la barbarie humana, o que la misma se rija por normas encaminadas a limitar el sufrimiento, pero estas existen y se han visto trastocadas, como todo, por la aparici¨®n de las tecnolog¨ªas de la informaci¨®n y por su abuso.

Tras siglos de guerras salvajes en el territorio europeo, el derecho de guerra humanitario, por sorprendente que parezca, trae la civilizaci¨®n y las reglas a los conflictos armados, lo que debemos a Henry Dunant, quien tuvo la mala fortuna de estar en la ciudad italiana de Solferino el mismo d¨ªa en que los ej¨¦rcitos austriaco y franco-piamont¨¦s decidieron usarla como campo de batalla. La lucha dur¨® solo nueve horas, pero les dio tiempo a dejar tras de s¨ª m¨¢s de 5.000 muertos, 23.319 heridos y 11.560 prisioneros o desaparecidos. El tama?o de la tragedia fue tal que, a la vista de que los propios contendientes carec¨ªan de la capacidad de hacer frente a tanta devastaci¨®n, el propio Dunant organiz¨® un grupo de voluntarios formado por mujeres de manera mayoritaria y mont¨® hospitales de campa?a donde se atend¨ªa a los heridos por igual, con independencia del bando al que perteneciesen. Esa batalla y la profunda impresi¨®n que causaron en Dunant fueron el germen de la Cruz Roja y de las cuatro Convenciones de Ginebra que regulan el trato de los heridos, pero tambi¨¦n de los muertos en combate.

As¨ª, en situaciones de conflicto armado internacional y no internacional, los muertos deben ser respetados y protegidos. Las partes deber¨¢n registrar toda la informaci¨®n disponible antes de la inhumaci¨®n de los muertos con miras a la posterior identificaci¨®n de los cad¨¢veres o los restos. Y, si identificar a los fallecidos es una obligaci¨®n de los contendientes, como me podr¨ªan contestar las autoridades ucranianas, la notificaci¨®n del hecho de su fallecimiento no puede usarse como arma de desestabilizaci¨®n del contrario, por mucho que apetezca hacerlo. Los Convenios de Ginebra de 1949 y sus dos Protocolos adicionales de 1977 establecen que siendo la identificaci¨®n una ¡°obligaci¨®n de medios¡± que exige a las partes hacer todos los esfuerzos posibles y utilizar todos los medios de que dispongan a tal fin, deber¨¢n, sin embargo, preparar y enviar la una a la otra los certificados de defunci¨®n o las listas de los muertos debidamente autenticadas y que contengan todos los detalles necesarios para la identificaci¨®n de las personas fallecidas siendo cada Estado el que notifique sus propios muertos.

La diferencia entre la civilizaci¨®n y la barbarie radica en el derecho, en esas reglas que sostienen los pactos sociales y, con todos sus defectos, los articulan y hacen posible la convivencia pac¨ªfica, incluso la dignidad en la guerra. Esas normas que tanto fastidian a nuestros Hoan Ton-Thats y que han venido para quedarse.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.