Es mentira que Facebook o Google se puedan autorregular y te contamos por qu¨¦

Pagar¨ªa alguien impuestos de forma voluntaria? Tal vez alguien s¨ª. La mayor¨ªa no. Lo mismo sucede con la autorregulaci¨®n de las grandes empresas tecnol¨®gicas: no funciona. Es lo que dice Yoshua Bengio, reconocido como uno de los padres creadores del aprendizaje profundo (deep learning en ingl¨¦s), una de las capacidades que ha conducido a la actual eclosi¨®n de la inteligencia artificial (IA).

¡°Tenemos un problema. De los cinco pa¨ªses m¨¢s grandes del mundo -Facebook, WhatsApp, China, India, e Instagram- tres son de Facebook¡±

<span>Nuria Oliver,?</span>cient¨ªfica de datos y acad¨¦mica de la Real Academia de Ingenier¨ªa

Bengio ha recibido el premio Turing 2018 -conocido como el Nobel de la inform¨¢tica- junto con otros dos pioneros en el campo: Geoffrey Hinton, actualmente en Google, y Yann LeCun, que trabaja para Facebook. En una entrevista en Nature, el cient¨ªfico -asociado a la Universidad de Montreal- asegura que muchas compa?¨ªas y Estados usan la IA de forma irresponsable, a menudo a la sombra (en laboratorios militares, en organizaciones de seguridad o en empresas privadas que prestan servicios a los gobiernos o a la polic¨ªa). ¡°La IA es una herramienta que pueden usar quienes tienen el poder para mantenerlo y aumentarlo¡±, afirma.

Los hechos no le quitan la raz¨®n. Las grandes tecnol¨®gicas se han unido en un consorcio -Partnership on AI- cuya misi¨®n ¡°estudiar y formular las mejores pr¨¢cticas en tecnolog¨ªas de IA¡±. Esa es la teor¨ªa. En la pr¨¢ctica, se las acusa de actuar como grupo de cabildeo a la b¨²squeda de normas -o ausencia de ellas- que beneficien a sus intereses. Una forma de autorregularse sin someterse al escrutinio y voto p¨²blico. ¡°Esta alianza ha hecho poco m¨¢s que garantizar su representaci¨®n estrat¨¦gica en las mesas, cumbres y universidades convenientes¡±, asegura Christopher Markou, profesor especializado en Leyes e Inteligencia Artificial en la Universidad de Cambridge (Reino Unido).

M¨¢s informaci¨®n

?D¨®nde est¨¢n los l¨ªmites de la inteligencia artificial?

Stallman: ¡°Los m¨®viles esp¨ªan y transmiten nuestras conversaciones, incluso apagados¡±

¡°Es perfecto porque dan la impresi¨®n de posicionarse en el lado correcto, cuando sus acciones no van m¨¢s all¨¢ de las relaciones p¨²blicas¡±, sostiene el investigador, entrevistado por EL PA?S RETINA durante el seminario HUMAINT sobre el impacto de la IA organizado por el Centro Com¨²n de Investigaci¨®n (JRC-CAS) de la Comisi¨®n Europea. Markou habla del teatro de ¨¦tica de la industria de la inteligencia artificial: un intento de lavado de cara mediante la invocaci¨®n de la ¨¦tica del que pocas tecnol¨®gicas escapan. A Google de momento le ha salido el tiro por la culata, con la pol¨¦mica cancelaci¨®n de su Comit¨¦ de ?tica -tras conocerse la identidad de algunos controvertidos miembros- una semana despu¨¦s de crearlo.

¡°La autorregulaci¨®n no es una opci¨®n. No es posible que los gobiernos y los ciudadanos conf¨ªen en estas empresas solo porque digan que se comprometen a ser ¨¦ticas, responsables o cualquier otra palabra de moda que sea conveniente para sus negocios¡±, asegura Markou. El investigador compara el caso con la crisis financiera de 2008: ¡°Se permiti¨® que una industria carente de regulaci¨®n y sin control sobre sus excesos llevara a la quiebra de la econom¨ªa global. Eso no puede pasar con la IA¡±, afirma.?

Privatizar la gobernanza

Los riesgos van m¨¢s all¨¢ de plano econ¨®mico y hacen temblar el sistema democr¨¢tico. Frente al anhelo de internet como poder descentralizador, la red se ha acabado centralizando a trav¨¦s de la influencia de unas pocas grandes corporaciones. ¡°Tenemos un problema. De los cinco pa¨ªses m¨¢s grandes del mundo -Facebook, WhatsApp, China, India, e Instagram- tres son de Facebook. Pertenecen a una misma empresa dirigida por una persona no elegida democr¨¢ticamente¡±, asegura la cient¨ªfica de datos y acad¨¦mica de la Real Academia de Ingenier¨ªa Nuria Oliver.

Oliver apunta que estas empresas pueden llegar a una inmensa cantidad de gente sin ning¨²n tipo de rendici¨®n de cuentas. ¡°Tiene mayor poder que un pa¨ªs, y dominio suficiente como para ejercer la gobernanza¡±, afirma.

En su opini¨®n, en l¨ªnea con Bengio y Markou, los discursos de autorregulaci¨®n ¡°son una excusa para tener libertad para definir el marco regulatorio que mejor les venga¡±. O, lo que es lo mismo, m¨¢s cuotas de poder. ¡°Los imperios tecnol¨®gicos est¨¢n dictando decisiones sobre nuestra vida e imponiendo sus leyes. Quieren conectarnos a todos para controlarnos a todos¡±, asegura Renata ?vila, abogada de Derechos Humanos y directora ejecutiva de la Fundaci¨®n Ciudadan¨ªa Inteligente.

La realidad no parece alejada de esta idea. Jack Ma -fundador del gigante de comercio electr¨®nico Alibaba- planea crear una plataforma electr¨®nica de comercio mundial (eWTP) para facilitar el comercio trasfronterizo y que el sector privado tome parte en la creaci¨®n de leyes. El Pacto de Ciberseguridad de Par¨ªs para regular el entorno digital, anunciado por Macron y respaldado 50 pa¨ªses diferentes, incluye a compa?¨ªas como Microsoft, Google o Samsung.

Estas compa?¨ªas tienen derecho -y es su deber- a participar en las discusiones sobre c¨®mo fomentar la innovaci¨®n o luchar contra el discurso del odio, contra la manipulaci¨®n o el pirateo. Pero la l¨ªnea entre tener voz en ellas y dictar, de facto, las leyes, se hace cada vez m¨¢s fina. Sobre ello escribe en Bloomberg la europarlamentaria progresista del D66 Marietje Schaake. ¡°Est¨¢ muy bien que las empresas act¨²en de manera responsable pero otra cosa diferente es que asuman la gobernanza transfronteriza y la responsabilidad de crear normas a nivel mundial, lo cual es profundamente problem¨¢tico para la democracia y para el Estado de derecho¡±, afirma.

Schaake alerta del riesgo de que el sector privado capte el inter¨¦s p¨²blico y de que las normas se hagan sin transparencia, sin responsabilidad y sin el mandato de las personas. Es lo que llama ¡°la privatizaci¨®n de la gobernanza¡±. Para evitar que vaya a mayores, la europarlamentaria recalca la importancia de evaluar de cerca cada iniciativa del sector privado en funci¨®n de sus m¨¦ritos, en lugar de tomarla por defecto como bien intencionada. ¡°Al igual que con cada propuesta de gobierno, hay que considerar los valores y los mecanismos de consentimiento, supervisi¨®n y responsabilidad en que se basan¡±, afirma.

Por obvio que suene, el desarrollo de normas debe incluir a las m¨²ltiples partes interesadas, incluidos representantes de la sociedad civil, expertos en tecnolog¨ªa y representantes gubernamentales de diferentes partes del mundo, dice Schaake. ¡°Debemos asegurarnos de que las normas est¨¦n ancladas en principios como el respeto por los derechos humanos universales y la competencia leal. Si las empresas quieren jugar a actuar como gobiernos, aunque sea temporalmente, deben asumir tambi¨¦n sus responsabilidades¡±, concluye.

Bengio y Markou coinciden con la necesidad de una gobernanza online integradora y que parta de los poderes p¨²blicos. ¡°Si creemos en la democracia, es importante tomar decisiones consecuentes sobre c¨®mo la IA reconfigura la sociedad, supervisar las din¨¢micas de poder y atribuir responsabilidades. Ello tiene que partir de una autoridad externa y, por ahora, el Estado democr¨¢tico ofrece una mejor opci¨®n que la autorregulaci¨®n. La industria puede tener su opini¨®n en el proceso, pero en la pr¨¢ctica su opini¨®n est¨¢ ya m¨¢s que bien representada¡±, sostiene.

Markou considera que un paso importante ser¨ªa crear un organismo de supervisi¨®n y regulaci¨®n profesional para la industria de la IA: ¡°De la misma manera que los m¨¦dicos, abogados, ingenieros y periodistas est¨¢n sujetos a supervisi¨®n profesional y a c¨®digos de conducta ¨¦tica, creo que las personas que construyen la arquitectura de la sociedad tambi¨¦n deber¨ªan estarlo¡±. Reconoce que la inteligencia artificial plantea muchas cuestiones legales, econ¨®micas y ¨¦ticas para las cuales hay pocas respuestas correctas pero cree que la perfecci¨®n no debe ser el est¨¢ndar. ¡°M¨¢s bien, deber¨ªamos ser decisivos para garantizar que esta nueva e importante fuente de poder est¨¦ sujeta a los controles y equilibrios adecuados. Ello requiere de coraje pol¨ªtico, p¨²blico y period¨ªstico¡±, afirma.

El experto argumenta que existe un importante d¨¦ficit democr¨¢tico en tecnolog¨ªa y que hemos llegado a ver el progreso tecnol¨®gico y la innovaci¨®n como bienes sociales inalienables que deben incentivarse a toda costa. Markou tiene claro que la tecnolog¨ªa es ¡°la fuerza motriz de la modernidad¡± y no cree que el impulso de explorar y construir nuevas herramientas pueda ni deba ser suprimido. M¨¢s bien, aboga por llevar la pol¨ªtica tecnol¨®gica al dominio p¨²blico; hacer un proceso consultivo como lo son la pol¨ªtica econ¨®mica, la pol¨ªtica exterior y la pol¨ªtica social. ¡°Este es el desaf¨ªo al que se enfrentan Europa y el mundo ahora, y no podemos permitirnos ser complacientes y permisivos. Hay mucho en juego¡±, concluye.?