¡°El mantra de que la ley mata la innovaci¨®n es falso¡±

Paul Nemitz es perro viejo. Lider¨® la reforma de la legislaci¨®n de protecci¨®n de datos de la Uni¨®n Europea (que trajo el actual Reglamento General de Protecci¨®n de Datos), dirigi¨® las negociaciones con Facebook, Microsoft, Twitter y YouTube para un C¨®digo de conducta para combatir el discurso de odio ilegal online. Ahora ejerce como asesor principal en el directorado general para Justicia y Consumidores de la Co...

Paul Nemitz es perro viejo. Lider¨® la reforma de la legislaci¨®n de protecci¨®n de datos de la Uni¨®n Europea (que trajo el actual Reglamento General de Protecci¨®n de Datos), dirigi¨® las negociaciones con Facebook, Microsoft, Twitter y YouTube para un C¨®digo de conducta para combatir el discurso de odio ilegal online. Ahora ejerce como asesor principal en el directorado general para Justicia y Consumidores de la Comisi¨®n Europea, tras seis a?os en ese mismo departamento como director del ¨¢rea de Derechos Fundamentales de los Ciudadanos.

Nemitz tambi¨¦n es miembro de la Comisi¨®n de Pol¨ªtica de Medios e Internet del Partido Socialdem¨®crata de Alemania (SPD), fideicomisario de varias organizaciones y autor del libro Principio humano. Poder, libertad y democracia en la era de la inteligencia artificial. Quiere contrarrestar el poder de las grandes tecnol¨®gicas, desmitificar la idea de que la regulaci¨®n mata a la innovaci¨®n y avanzar hacia una gobernanza digital transatl¨¢ntica. Lo cuenta en videoentrevista con EL PA?S, a su paso por el por el laboratorio de pol¨ªticas Derechos fundamentales en la inteligencia artificial y las sociedades digitales, organizado por el Club de Madrid.

Pregunta. Es usted la persona detr¨¢s del manifiesto transatl¨¢ntico En defensa de la democracia y el Estado de derecho en la era de la inteligencia artificial. ?Qu¨¦ sostiene y que tiene de ¨²nico frente a otras declaraciones en esta l¨ªnea?

Respuesta. El mero hecho de ser capaces de ponernos de acuerdo entre personas de diferentes disciplinas cient¨ªficas y acad¨¦micas a trav¨¦s del Atl¨¢ntico es una se?al de esperanza. Partimos de la base de que vivimos en un entorno digital muy centralizado en t¨¦rminos de infraestructura y de capacidad de controlar el comportamiento de los individuos. Sin embargo, la democracia se construye exactamente en los principios contrarios: descentralizaci¨®n y divisi¨®n de poderes (legislativo, ejecutivo, judicial, prensa, academia y sociedad civil), y mecanismos correctores.

Desde todos esos frentes se ejerce la compensaci¨®n de poderes, y debemos garantizar que dicha compensaci¨®n pueda darse de forma efectiva. El encargado de hacer esto es el Estado, que debemos volver a poner en el centro. En el manifiesto identificamos 17 ¨¢reas muy espec¨ªficas en las que creemos que hay posibilidad de acci¨®n conjunta entre Estados Unidos y Europa, en ¨¢mbitos como la competencia, los impuestos, la gobernanza de los datos, la transparencia, los derechos humanos, la seguridad nacional...

P. ?Qui¨¦nes est¨¢n socavando estos poderes correctores?

R. Todos aquellos que dicen que quieren conectar a todo el mundo: Facebook, Google, Microsoft, Amazon¡­ Por ejemplo, Google y Facebook est¨¢n centralizando la mayor¨ªa de los nuevos ingresos publicitarios online de la prensa, quit¨¢ndoles el dinero. Ahora, de forma muy ¡°gentil¡± [n¨®tese el tono ir¨®nico], est¨¢n creando programas supuestamente para devolver parte de ese dinero a los medios pero que en realidad crean dependencia y control.

En el ¨¢mbito acad¨¦mico, por otra parte, es muy dif¨ªcil encontrar una instituci¨®n que estudie el impacto social de internet que no est¨¦ recibiendo, de una manera u otra, dinero de estas empresas. Su omnipresencia no se limita a la tecnolog¨ªa: con su dinero llegan a todo aquel lugar donde se construye la opini¨®n p¨²blica sobre la tecnolog¨ªa e internet.

P. ?C¨®mo se puede corregir esto? ?Qu¨¦ est¨¢ en juego si no se logra?

R. Dos principios importantes. El primero es que en una democracia debe haber una primac¨ªa del proceso democr¨¢tico sobre los mercados y la tecnolog¨ªa. Una de las formas m¨¢s innovadoras de velar por esa primac¨ªa es a trav¨¦s de leyes vinculantes cuyo cumplimiento pueda garantizarse.

El segundo principio es que tenemos que restaurar la democracia porque no superar esta crisis genera dudas sobre si es el mejor sistema para atajar los asuntos importantes de nuestro tiempo. La influencia de las grandes empresas de internet y de la inteligencia artificial [IA] en nuestras vidas es uno de ellos. Internet no puede ser un espacio sin democracia.

P. Internet es global, como lo son las grandes empresas tecnol¨®gicas. ?Es posible una alianza multilateral para democratizarlo?

R. Si la pregunta es si podemos crear un acuerdo multilateral global vinculante a nivel internacional sobre la IA que sea lo m¨¢s inclusivo posible, debemos ser realistas. Tenemos que preguntarnos cu¨¢les son los problemas nucleares en los que un gran n¨²mero de gobiernos estar¨ªan de acuerdo. A mi juicio son dos: la gobernabilidad y la autodeterminaci¨®n.

Necesitamos asegurarnos de que la IA no se sale de control: garantizar la supremac¨ªa del ser humano y de la democracia sobre la tecnolog¨ªa. Ello requiere de normas y responsabilidades para evitar que los individuos y la sociedad se conviertan en el objeto del control de las m¨¢quinas. Creo que es posible que el mundo est¨¦ de acuerdo en estos principios, por una cuesti¨®n de intereses compartidos: el de los Estados por mantener la gobernabilidad, y el de los humanos por usar la tecnolog¨ªa como su herramienta en lugar de convertirse ellos en la herramienta. Ese ser¨ªa el fin de la naturaleza humana.

P. Hasta China est¨¢ empezando a regular esto.

R. Eso es precisamente porque el poder de las grandes corporaciones es tan grande que est¨¢ siendo un problema para la gobernabilidad, y la gobernabilidad es un inter¨¦s com¨²n de democracias y de autocracias porque es necesaria en cualquier tipo de estructura estatal.

P. Mencionaba antes las leyes como mecanismo ¡°innovador¡± de velar por la primac¨ªa de la democracia. Muchos afirman que, lejos de ello, la regulaci¨®n coarta la innovaci¨®n.

R. El mantra de que la ley mata la innovaci¨®n es falso. Es el mito m¨¢s simple y equivocado en cualquier discusi¨®n sobre regulaci¨®n. La historia muestra que la regulaci¨®n sirve a la innovaci¨®n. Por ejemplo, la regulaci¨®n sobre seguridad garantiza que la tecnolog¨ªa sea aceptable para la sociedad e incentiva a las compa?¨ªas a innovar para aumentar la seguridad y reducir su precio. No tendr¨ªamos un ambiente de progreso en la innovaci¨®n tecnol¨®gica si no hubi¨¦ramos tenido una agenda de pol¨ªticas p¨²blicas. La ley, a diferencia de los mercados, crea incentivos para innovar en ¨¢reas que sirven al inter¨¦s p¨²blico. Ello, adem¨¢s, redistribuye recursos, incluidos los de empresas privadas.

Aquellos que hablan de desarrollar IA por el bien com¨²n no pueden decir al mismo tiempo que no quieren leyes. Cuando se habla de la regulaci¨®n como un obst¨¢culo para la innovaci¨®n, como algo a evitar, hay que volver a entender que la ley es un instrumento para expresar lo que la democracia quiere alcanzar, para modelar la sociedad. Por tanto, esta debe prevalecer sobre un modelado social dirigido por los intereses empresariales y de la tecnolog¨ªa.

P. No hay gigante tecnol¨®gico que se precie que no cuente con una lista de principios de desarrollo de una IA ¨¦tica, la cumplan o no. Usted aboga por ir m¨¢s all¨¢.

R. En una democracia todas las cuestiones importantes que est¨¢n relacionadas con el cumplimiento de los derechos fundamentales deben ser tratadas por el parlamento. Ese principio de la esencialidad debe aplicarse tambi¨¦n a los l¨ªmites entre lo que puede entrar en el campo de la ¨¦tica y lo que requiere de normas con legitimidad democr¨¢tica que puedan hacerse cumplir.

Si identificamos que la IA supone un alto riesgo contra los derechos fundamentales o la democracia, haciendo posible por ejemplo la microsegmentaci¨®n y manipulaci¨®n de las personas en procesos electorales, tenemos la obligaci¨®n legal de tomar las medidas necesarias para evitar que pase. Y tambi¨¦n para evitar consecuencias no intencionadas o usos no pensados de esas tecnolog¨ªas, de modo que quienes las hayan creado y puesto en el mercado tengan obligaciones jur¨ªdicas.

P. Hablando de obligaciones legales, ?qu¨¦ opina de la reciente multa de 225 millones de euros a WhatsApp por parte de la Comisi¨®n para la Protecci¨®n de Datos de Irlanda (DPC) por no informar a sus usuarios de c¨®mo compart¨ªa los datos con Facebook? Ha habido quejas por la inacci¨®n de la DPC, a pesar de recibir decenas de miles de denuncias cada a?o. Adem¨¢s, la DPC fue forzada a aumentar la cuant¨ªa de la multa, pues inicialmente planeaba cifrarla en 50 millones.

R. Europa es una construcci¨®n complicada y las autoridades de protecci¨®n de datos de determinados pa¨ªses deben entender que son agentes de inter¨¦s europeo. No pueden ser vistas como sirvientes del inter¨¦s corporativo o nacional. Sus decisiones en relaci¨®n con empresas como Google o Facebook afectan a los ciudadanos de toda Europa.

Adem¨¢s, me gustar¨ªa recordar que las multas m¨¢s duras en este sentido se han dado en EE UU, en concreto una de 5.000 millones de d¨®lares contra Facebook por parte de la Comisi¨®n Federal de Comercio. Es injusto e incorrecto decir que los europeos van contra las empresas estadounidenses. EEUU y Europa comparten problemas con estas compa?¨ªas. Por eso necesitamos homogeneidad de gobernanza y legislaci¨®n, como actores prodemocr¨¢ticos, frente a las cuestiones que tenemos abiertas con estas corporaciones.

Tenemos que refinar la solidaridad de los gobiernos y parlamentos en vista del enorme poder que estas empresas han amasado. Supondr¨¢ la vuelta de la democracia al campo tecnol¨®gico, donde durante mucho tiempo mucha gente pens¨® que la ley deber¨ªa estar ausente. Conf¨ªo en que seremos capaces de hacerlo. Tenemos lo que se necesita para ello.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.