¡°Tendremos que tomar decisiones para controlar la inteligencia artificial¡±

Hoy en d¨ªa tenemos much¨ªsima menos privacidad que hace 20 a?os. El hecho de que gobiernos y empresas lo sepan todo sobre nosotros es una amenaza estructural a la democracia. Debemos redise?ar la tecnolog¨ªa para que sea menos invasiva¡±. Peter Eckersley (Melbourne, 1978) no se anda con rodeos: en las dos ¨²ltimas d¨¦cadas el mundo ha visto avances tecnol¨®gicos incre¨ªbles como Internet, la secuenciaci¨®n gen¨¦tica o el machine learning. Pero su desarrollo no ha tenido en cuenta la protecci¨®n de la privacidad de las personas. Revertir esa situaci¨®n, as¨ª como velar por los derechos y libertades civiles de internautas y usuarios de tecnolog¨ªa, es el objetivo declarado de la Electronic Frontier Foundation (EFF).

A eso se dedica Eckersley, inform¨¢tico jefe de la citada organizaci¨®n estadounidense. Fundada en 1990, la labor de la EFF se ha centrado durante a?os en litigar contra Washington y grandes multinacionales. Su primera victoria fue conseguir que los servicios secretos no pudieran acceder (al menos legalmente) a ordenadores privados. Lograron que Sony retirara un software que creaba vulnerabilidades que permit¨ªan a la compa?¨ªa obtener datos de los usuarios y contribuyeron a hacer que el Gobierno no pueda rastrear la localizaci¨®n de un m¨®vil sin tener antes pruebas de que hacerlo salvaguarda la seguridad nacional, seg¨²n destacan en su web.

¡°Vivimos en un mundo en el que, especialmente en EE UU, la informaci¨®n acerca de a d¨®nde va la gente, qu¨¦ hace, c¨®mo se relaciona o qu¨¦ opiniones pol¨ªticas tiene ha sido recopilada por unas docenas de empresas¡±, asegura el australiano. La firma 23andMe tiene una extensa base de datos con los datos m¨¢s personales que existen: el genoma de algunos millones de estadounidenses, algo que la actual legislaci¨®n europea proh¨ªbe. ¡°Las agencias de inteligencia, por su lado, han tomado datos a su antojo directamente de servidores y de cables de fibra ¨®ptica¡±, apunta este ingeniero inform¨¢tico.

Tenemos parte de la culpa de que esto suceda. Se ha aceptado que mejorar la seguridad implica necesariamente ceder privacidad. Eckersley lo considera un error inmenso, aunque reparable. ¡°La mejor protecci¨®n contra una filtraci¨®n de datos es no tener esos datos. Si puedes dise?ar tus sistemas de manera que no conserven una copia de la tarjeta de cr¨¦dito del usuario o de su historial de localizaciones, entonces no te pueden hackear¡±, argumenta. Eso se podr¨ªa conseguir creando incentivos econ¨®micos para que las empresas que est¨¢n detr¨¢s de las distintas tecnolog¨ªas vean con buenos ojos respetar la privacidad y se estrujen los sesos para lograrlo. ¡°La raz¨®n por la que la computaci¨®n en la nube es un desastre para la privacidad es que implica ceder datos a terceros. Hay que acabar con eso¡±, apostilla.

• Y lleg¨® la IA

En lo que va de d¨¦cada, la EFF se ha focalizado en la encriptaci¨®n de datos, promoviendo el reemplazo de la versi¨®n insegura (http) por la segura (https). Pero est¨¢n surgiendo nuevos desaf¨ªos. ¡°Nos estamos preguntando c¨®mo queremos que funcione la inteligencia artificial (IA). Tendremos que tomar decisiones al respecto. Algunas de sus aplicaciones ser¨¢n geniales; otras pueden ser fatales¡±, sentencia.

Debido a una serie de errores estad¨ªsticos muy complicados, los algoritmos tienen tremendos sesgos raciales¡±

No habla en clave de futuro. Uno de los casos en los que ya trabaja su equipo tiene que ver con el sistema penitenciario estadounidense. Ahogado como est¨¢ EE UU por un ritmo de encarcelaci¨®n que multiplica por cinco la media de la OCDE, est¨¢n surgiendo movimientos reformistas que buscan la forma de descongestionar las c¨¢rceles. ¡°Una de las propuestas planteadas es que las sentencias se basen no en una noci¨®n de castigo, sino de riesgo¡±, explica Eckersley. ?C¨®mo de peligroso es para la sociedad tener a cierto individuo fuera de la c¨¢rcel? Eso se decidir¨ªa en base a unas puntuaciones de riesgo que son calculadas por algoritmos de machine learning para establecer si un reo reincidir¨¢ o no en caso de ser puesto en libertad.

¡°Esto ha demostrado ser un desastre, porque los algoritmos resultan tener tremendos sesgos raciales. Un inocente negro punt¨²a m¨¢s alto que un inocente blanco. Debido a una serie de errores estad¨ªsticos muy complicados, estos modelos piensan de una forma sesgada. Esto est¨¢ bien documentado por el sistema judicial de EE UU¡±, se?ala. Tambi¨¦n se est¨¢ viendo algo parecido, dice, en el mundo de los seguros de vida. ¡°Si comparamos dos personas con caracter¨ªsticas exactamente iguales excepto la raza, el negro pagar¨¢ m¨¢s¡±, a?ade.

• ?Hacia una superinteligencia artificial?

No debe subestimarse la capacidad de la IA para hacer da?o. Lo que no tardaremos en ver es c¨®mo aprovechar¨¢n los hackers esta tecnolog¨ªa para vulnerar los sistemas de una forma mucho m¨¢s compleja y eficiente de lo que hemos visto hasta ahora. Ante esta situaci¨®n, Eckersley solo ve una salida: ¡°tendremos que saber usar la IA para defendernos mejor que quienes la empleen para atacar¡±.

La privacidad es un escudo interpuesto ante el Estado por el pr¨®ximo movimiento de libertades civiles¡±

Pero los desaf¨ªos ser¨¢n mayores a largo plazo. ¡°El machine learning permite que los ordenadores hagan muy bien una tarea concreta. Si les das 100.000 im¨¢genes de r¨ªos, mares y bosques, las procesar¨¢n y aprender¨¢n a distinguir cada cosa por s¨ª mismos. Esa es la mec¨¢nica que sigue Alexa para reconocer tu voz o Facebook para identificar a tus amigos a partir de fotograf¨ªas¡±, describe.

Luego tenemos la llamada inteligencia artificial general o fuerte, que hasta el momento solo existe en un plano te¨®rico. ¡°Este tipo de IA podr¨ªa aprender cualquier cosa que se le ponga delante, como si fuera un ni?o. Hay quien opina que esta tecnolog¨ªa ser¨¢ una realidad, aunque no se sabe si dentro de 15 o 30 a?os¡±, subraya el inform¨¢tico. ¡°Si llega a existir, entraremos en una era digna de la ciencia ficci¨®n. Ahora parece improbable que suceda, pero no perdemos nada empezando a pensar sobre las consecuencias que puede tener el desarrollo de una inteligencia de este tipo. Porque lo cambiar¨ªa todo¡±, advierte el australiano.

• Libertad VS seguridad

Acabe o no viendo la luz esta tecnolog¨ªa, el binomio libertad-seguridad se seguir¨¢ vendiendo como un juego de suma cero. Quien quiera m¨¢s protecci¨®n deber¨¢ estar dispuesto a ceder datos personales; quien los quiera proteger a toda costa se ver¨¢ expuesto a m¨¢s amenazas. Eckersley y la organizaci¨®n en la que trabaja velan por que estos dos conceptos no se retroalimenten. ¡°Creemos que la defensa contra las dictaduras necesita incluir una sociedad civil robusta y libertades fundamentales tales como libertad de expresi¨®n. La privacidad en esencia trata de protegerte contra las leyes y la sociedad¡±, sostiene. El movimiento sufragista se consider¨® en su momento algo parecido al terrorismo, a pesar de reclamar lo que hoy consideramos un derecho fundamental. ¡°La privacidad es un escudo interpuesto ante el Estado por el pr¨®ximo movimiento de libertades civiles que cambiar¨¢ lo que pensamos como democracia sobre alg¨²n tema¡±.