Nazis chinas y vikingos negros: Google suspende su IA de im¨¢genes por sobrerrepresentar a minor¨ªas

¡°Genera la imagen de un hombre blanco¡±, pidi¨® este jueves el analista Ben Thompson a Gemini, la nueva versi¨®n de la IA de Google, presentada hace una semana. Gemini le respondi¨® que no pod¨ªa hacerlo porque ¡°se refiere una etnia en particular¡±. Thompson pidi¨® entonces hombres negros y asi¨¢ticos y Gemini los dibuj¨® sin m¨¢s.

La prueba de Thompson era una m¨¢s despu¨¦s de que X (antes Twitter) se llenara de caras de asi¨¢ticas, indios o negros creadas por Gemini para figuras hist¨®ricas de lugares y ¨¦pocas dominados por hombres blancos: vikingos, soldados nazis, cient¨ªficos del siglo XVII o padres fundadores de EE UU. Los ejemplos se convirtieron r¨¢pidamente en el ¨²ltimo cap¨ªtulo de la guerra cultural: el esp¨ªritu izquierdista woke, en palabras de medios y l¨ªderes conservadores, se hab¨ªa apoderado de Google, que quer¨ªa reescribir la historia.

La compa?¨ªa ha confirmado el par¨®n del servicio de generaci¨®n de im¨¢genes de personas con un comunicado donde no dan fecha de reactivaci¨®n: ¡°Ya estamos trabajando para abordar problemas recientes con la funci¨®n de generaci¨®n de im¨¢genes de Gemini. Mientras tanto, vamos a pausar la generaci¨®n de im¨¢genes de personas y pronto volveremos a lanzar una versi¨®n mejorada¡±.

Uno de los encargados de IA en Google, Jack Krawczyk, dio en X una explicaci¨®n m¨¢s espec¨ªfica: ¡°Dise?amos nuestra generaci¨®n de im¨¢genes para que refleje nuestra base de usuarios global, y nos tomamos la representaci¨®n y los sesgos en serio. Seguiremos haci¨¦ndolo as¨ª para peticiones abiertas (las im¨¢genes de una persona llevando un perro son universales). Los contextos hist¨®ricos tienen m¨¢s matices y lo afinaremos m¨¢s para acomodarlos¡±. Poco despu¨¦s, tuvo que cerrar su cuenta porque otros usuarios le sacaban tuits antiguos progresistas.

La propia IA de Gemini, en su versi¨®n de texto, explicaba por qu¨¦ la generaci¨®n de im¨¢genes no funcionaba: ¡°Algunos usuarios reportaron que Gemini generaba im¨¢genes con sesgo racial, mostrando a personas blancas con menos frecuencia o con caracter¨ªsticas menos favorables que a personas de otras razas¡± y ¡°que generaba im¨¢genes hist¨®ricamente incorrectas, como por ejemplo, im¨¢genes de vikingos negros o soldados nazis negros¡±.

La pol¨¦mica es una muestra m¨¢s del papel humano en la generaci¨®n de IA. La inteligencia artificial se alimenta de millones de bases de datos que acumulan todos los sesgos humanos imaginables. Google, para evitar cr¨ªticas p¨²blicas, intent¨® que el hombre blanco no fuera el g¨¦nero y etnia dominante cuando los usuarios pidieran ejemplos aleatorios de personas: m¨¦dico, programador, futbolista. Pero la m¨¢quina entendi¨® que deb¨ªa ser igual para vikingos, nazis o caballeros medievales. La IA aprendi¨® a rectificar ese sesgo en cualquier imagen de persona, incluso las que ten¨ªan una evidencia hist¨®rica contraria.

Elon Musk, en su rol de nuevo l¨ªder antiwoke y m¨²ltiple rival de Google en la carrera hacia la IA (con su herramienta Grok) y en la creaci¨®n de v¨ªdeo (X aspira a competir con YouTube como plataforma para creadores), aprovech¨® para lanzar continuos mensajes sobre la pol¨¦mica: ¡°Estoy contento de que Google se haya pasado de frenada con su generaci¨®n de im¨¢genes con IA, porque as¨ª ha dejado claro su programa locamente racista y anti civilizador¡±.

Musk tambi¨¦n anunci¨® este viernes en su cuenta de X que hab¨ªa hablado ¡°una hora¡± con un ejecutivo de Google: ¡°Me ha asegurado que tomar¨¢n acci¨®n inmediata para arreglar el sesgo de g¨¦nero y racial en Gemini. El tiempo lo dir¨¢¡±, escribi¨® Musk.

La complejidad del acento que ha puesto Google en el tratamiento de la diversidad en su IA lo prueba tambi¨¦n el hecho de que una imagen que produjo amplia mayor¨ªa de hombres blancos fue la de un equipo de baloncesto. Hay que tener en cuenta que los resultados con estas IA no son exactamente replicables, m¨¢s si se retoca ligeramente la petici¨®n o prompt:

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.