Las grandes compa?¨ªas de inteligencia artificial lanzan un fondo para hacerla m¨¢s segura
Google, Microsoft, OpenAI y Anthropic hab¨ªan creado un grupo de trabajo para promover la investigaci¨®n cuidadosa de esta tecnolog¨ªa
Las principales compa?¨ªas de inteligencia artificial (IA) han anunciado la creaci¨®n de un fondo dedicado a la seguridad de los desarrollos en ese campo, para apoyar a investigadores independientes que creen herramientas para evaluar y probar los modelos m¨¢s potentes. Anthropic, Google, Microsoft y OpenAI ya hab¨ªan creado la organizaci¨®n Frontier Model Forum, que ahora recibe sus primeros fondos...
Las principales compa?¨ªas de inteligencia artificial (IA) han anunciado la creaci¨®n de un fondo dedicado a la seguridad de los desarrollos en ese campo, para apoyar a investigadores independientes que creen herramientas para evaluar y probar los modelos m¨¢s potentes. Anthropic, Google, Microsoft y OpenAI ya hab¨ªan creado la organizaci¨®n Frontier Model Forum, que ahora recibe sus primeros fondos y el nombramiento de un director ejecutivo.
La financiaci¨®n inicial es de 10 millones de d¨®lares. Todas estas empresas se mueven en valoraciones e inversiones que rondan los miles de millones de d¨®lares: solo Microsoft invirti¨® en OpenAI 10.000 millones. Anthropic est¨¢ en conversaciones para recibir m¨¢s de 3.000 millones de Google y Amazon.
Las empresas creen que as¨ª cumplir¨¢n parte de los compromisos firmados con la Casa Blanca sobre crear una IA responsable: ¡°A principios de este a?o, los miembros del Foro firmaron compromisos voluntarios de IA en la Casa Blanca, que inclu¨ªan el compromiso de facilitar el descubrimiento por parte de terceros y la notificaci¨®n de vulnerabilidades en nuestros sistemas de IA. El Foro considera que el Fondo de Seguridad de la IA es una parte importante para cumplir este compromiso al proporcionar financiaci¨®n a la comunidad externa para evaluar y comprender mejor los sistemas m¨¢s avanzados¡±, dice su nota de prensa.
El Forum tambi¨¦n ha nombrado como nuevo director ejecutivo a Chris Meserole, que viene del think tank Brookings Institution. ¡°Los modelos de IA m¨¢s potentes son muy prometedores para la sociedad, pero para aprovechar su potencial necesitamos comprender mejor c¨®mo desarrollarlos y evaluarlos de forma segura. Estoy entusiasmado de asumir ese desaf¨ªo con el Forum¡±, ha dicho Meserole.
Estos modelos, cada vez m¨¢s sofisticados, tienen capacidades que pueden ser desconocidas por la empresa que los crea. Este fondo es un modo de recibir algo de ayuda desde fuera para conocer posibles impactos negativos.
Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.