Aqu¨ª hay un experto que dice que los datos NO son el nuevo petr¨®leo

Soy Stuart Russell, profesor de inform¨¢tica en la Universidad de Berkeley. He trabajado en inteligencia artificial m¨¢s de 35 a?os. Su potencial para beneficiar a la humanidad es enorme, incluso en defensa. Sin embargo, permitir que las m¨¢quinas puedan elegir matar humanos ser¨¢ devastador para nuestra seguridad y libertad. Miles de colegas investigadores est¨¢n de acuerdo. Tenemos una oportunidad para prevenir el futuro que acaba de ver, pero el tiempo para actuar se est¨¢ acabando r¨¢pidamente¡±.

As¨ª cierra [spoiler] Stuart Russell su corto Slaughterbots, donde muestra un plausible futuro cercano en el que ej¨¦rcitos de microdrones aut¨®nomos atemorizan a la poblaci¨®n con ataques dirigidos a personas y lugares concretos. A Russell, referencia mundial en IA a quien EL PA?S RETINA ha podido entrevistar durante el congreso DES - Digital Enterprise Show 2018, le preocupa mucho el desarrollo y uso de armas rob¨®ticas inteligentes y aut¨®nomas hasta un punto de no retorno digno de Black Mirror.

Este cient¨ªfico, director del Centro de Inteligencia Artificial Compatible con Humanos (EE UU), es uno de los impulsores y firmantes de una carta abierta a la ONU que pide prohibir las armas letales aut¨®nomas, proteger a los civiles de su mal uso y evitar los efectos desestabilizadores de estas tecnolog¨ªas. Una carta que han firmado m¨¢s de 20.000 personas de 26 pa¨ªses, entre ellas Stephen Hawking, con quien Russell hab¨ªa escrito un art¨ªculo relacionado a?os atr¨¢s.

Russell asegura que la prohibici¨®n est¨¢ en proceso. Destaca la adhesi¨®n de China y la ausencia de apoyo de Reino Unido, Estados Unidos, Israel y Rusia. ¡°Tal vez no son conscientes de la dimensi¨®n del problema, o tal vez no les interese estrat¨¦gicamente. Sea como sea, est¨¢n cometiendo un error¡±, afirma. Y, por si hay dudas, asegura que este tipo de armamento es mucho m¨¢s peligroso que el nuclear y mucho m¨¢s f¨¢cil de usar. ¡°Tenemos que pararlo antes de que sea demasiado tarde¡±, recalca.?

• Error de dise?o

En su empe?o por evitar que las m¨¢quinas se apoderen del mundo, Russell ha apostado por un sistema diferente para el dise?o y desarrollo de la IA. ¡°Las aproximaciones actuales se basan en fijar un objetivo que la m¨¢quina tiene que alcanzar, y eso conduce inevitablemente a que esta tome el control y se quite de en medio cualquier cosa que pueda interferir en ello¡±, explica. Por ejemplo, si se le pide a un sistema inteligente que cure una enfermedad lo m¨¢s r¨¢pido posible, podr¨ªa optar por matar a todo el mundo, o por inocular dicha enfermedad a toda la poblaci¨®n para tener una muestra mundial en la que probar diferentes tratamientos.

¡°Como no queremos que esto pase, lo que se hace es ordenarle que cumpla su objetivo sin matar o contagiar a todo el mundo, pero este enfoque es err¨®neo¡±, asegura. Entre otras cosas, porque es imposible anticipar todas las posibles incidencias. Cuando los humanos damos instrucciones omitimos cientos de detalles impl¨ªcitos. Podemos decir ¡°quiero el mejor caf¨¦ del mundo¡± y cualquier persona entender¨ªa que lo queremos ahora (no ma?ana), a un precio razonable (no m¨¢s de tres euros) y sin herir a nadie.

El investigador ve potencial es en el desarrollo de lenguajes de programaci¨®n probabil¨ªsticos y universales

Para que una m¨¢quina pueda interpretar instrucciones de la misma manera, Russell sostiene que hay dise?ar sistemas capaces de lidiar con la incertidumbre, sin objetivos espec¨ªficos. Que puedan resolver situaciones a partir de su propio aprendizaje sobre nuestras preferencias. Y para ello necesitar¨¢n preguntar y pedir permiso a los humanos, que ejercen como filtro de seguridad. Es lo que denomina dise?o de recompensa inversa?y aprendizaje de refuerzo inverso cooperativo.

Esto supone un gran cambio de perspectiva en el desarrollo de tecnolog¨ªas basadas en IA. Russell y su grupo de investigaci¨®n en Berkeley han comprobado con modelos matem¨¢ticos que esta aproximaci¨®n es exitosa y permite contar con una IA ¡°probadamente beneficiosa para los humanos¡±. El cient¨ªfico explica c¨®mo llevar a cabo este tipo de dise?o en su pr¨®ximo libro. Lo publicar¨¢ en 2019, seg¨²n avanza el tambi¨¦n autor de Inteligencia artificial: un enfoque moderno, un cl¨¢sico para estudiantes de ingenier¨ªa de todo el mundo, traducido a 13 idiomas.?

• Contra los vendeh¨²mos del big data

Russell asegura que hay compa?¨ªas y consultoras que ofrecen servicios basados en inteligencia artificial y big data que en realidad no son capaces de realizar. ¡°Invertir en recopilar grandes cantidades de datos de tus clientes no puede ser la soluci¨®n m¨¢gica para todo¡±, afirma. Entre otras cosas, por las limitaciones de la tecnolog¨ªa en usos que no le son propios. ¡°Los datos no son el nuevo petr¨®leo¡±, sostiene, en contra de lo que aseguran otros expertos.

Russell critica que a menudo empresas basadas en an¨¢lisis y predicci¨®n big data realizan promesas que no pueden cumplir. Eso, adem¨¢s de ser decepcionante, tiene una repercusi¨®n negativa e incluso provoca una reacci¨®n violenta cuando el cliente comprueba que no es verdad, comenta.

Donde el investigador s¨ª ve m¨¢s potencial es en el desarrollo de lenguajes de programaci¨®n probabil¨ªsticos y universales. Que haya un ¨²nico algoritmo que pueda resolver todos los problemas para llegar a tener una IA general con una inteligencia comparable a la humana. Es decir, que sea capaz de entender el lenguaje, que integre aprendizaje y conocimiento, que sea capaz de tomar decisiones sobre largos periodos de tiempo y que sea capaz de acumular el descubrimiento de conceptos y teor¨ªas.

El experto aboga por lo que se conoce como ¡°IA general¡±. Es decir, que su inteligencia no se ci?a a un solo ¨¢mbito (por ejemplo, ganar una partida de ajedrez). Que pueda aprender r¨¢pidamente sobre cualquier situaci¨®n o ante cualquier problema, y actuar con ¨¦xito. Como en la pel¨ªcula Marte, en la que el protagonista debe descubrir c¨®mo sobrevivir en el planeta rojo, afrontando situaciones que nadie ha experimentado antes y adapt¨¢ndose a ellas.

• Contra los robots humanoides

?Qu¨¦ es la inteligencia? Para Russell, ¡°la capacidad de actuar con ¨¦xito en el mundo¡±. ?Incluye eso las relaciones con humanos? El cient¨ªfico no lo niega, pero le parece ¡°perturbador¡± el hecho de que haya personas que se casen con robots (algo que ya ha sucedido en China). Cree que dotar de aspecto humano a estas m¨¢quinas es ¡°un gran error¡±. Una soluci¨®n para frenar esta tendencia, dice, podr¨ªa ser una ley que establezca que todos los robots deban tener cuatro patas. ¡°De hecho, desde un punto de vista pr¨¢ctico, es mejor, ya que proporciona estabilidad y permite cargar m¨¢s peso¡±.

Llevamos muchos a?os usando a la gente como robots, y eso va a cambiar¡±, sostiene

Otra v¨ªa ser¨ªa la cultural: que tener m¨¢quinas humanoides se vuelva socialmente inaceptable, ¡°como en su d¨ªa pas¨® con el consumo generalizado de coca¨ªna, tras una ¨¦poca de exposici¨®n abusiva¡±. Russell afirma que a esta labor deber¨ªan contribuir los escritores y los cineastas, no solo para evitar que acabemos emparejados con robots sino que estos no acaben haci¨¦ndolo todo por nosotros. ¡°Reconozco que es muy tentador, pero eso nos volver¨¢ vagos, obesos y est¨²pidos, como sucede en la pel¨ªcula Wall-e¡±, afirma. Cree que, dedicados a la vida contemplativa, acabar¨ªamos apoltronados en un sof¨¢, delante de una pantalla, con un tanque de patatas fritas y cerveza. A lo Homer Simpson. ¡°Es aterrador¡±, afirma.

El experto, sin embargo, aboga por el uso de robots e IA para evitar que los humanos realicen trabajos mec¨¢nicos y alienantes. ¡°Llevamos muchos a?os usando a la gente como robots, y eso va a cambiar¡±, sostiene. La idea es liberar a las personas para que se puedan dedicar a tareas m¨¢s creativas o gratificantes, donde adem¨¢s aporten valor y sigan teniendo una funci¨®n de utilidad en la econom¨ªa. Por eso, no cree que la renta b¨¢sica universal (RBU) sea una soluci¨®n a largo plazo ante la automatizaci¨®n, aunque s¨ª cree que ser¨¢ necesaria para la transici¨®n.

¡°Creo que las evidencias muestran que necesitamos incentivos. Pueden ser financieros o relacionados con el estatus social. Por ejemplo, que cosas como ayudar a otras personas se conviertan en algo importante y reconocido socialmente, algo m¨¢s all¨¢ del voluntariado, para lo cual recibas una formaci¨®n¡±, propone. Russell afirma que los cuidadores (ya sea de ni?os, de personas enfermas o de mayores) est¨¢n muy poco valorados y eso tiene que cambiar. ¡°Necesitamos m¨¢s investigaci¨®n y estudios acerca de c¨®mo un humano puede mejorar la vida de otro humano¡±.

El cient¨ªfico cree que en el futuro la mayor¨ªa de las personas trabajar¨¢ para proporcionar servicios individuales a otras personas. ¡°Se trata de encontrar nuevas formas de ayudarse para ser felices, que es lo que realmente importa¡±.