Por qu¨¦ Facebook se ha llenado de Jesucristos hechos con huevos, espaguetis o coliflores

¡°A nadie le gusta mi trabajo art¨ªstico¡±, ¡°?Lo hice con mis propias manos!¡±, ¡°Mayo de 2024 es tu mejor a?o¡±, son algunos de los textos que acompa?an en Facebook a miles de im¨¢genes bizarras de Jesucristo generadas por inteligencia artificial. El algoritmo de la red las promueve, algunas se convierten en virales y logran captar enormes audiencias para p¨¢ginas que lu...

¡°A nadie le gusta mi trabajo art¨ªstico¡±, ¡°?Lo hice con mis propias manos!¡±, ¡°Mayo de 2024 es tu mejor a?o¡±, son algunos de los textos que acompa?an en Facebook a miles de im¨¢genes bizarras de Jesucristo generadas por inteligencia artificial. El algoritmo de la red las promueve, algunas se convierten en virales y logran captar enormes audiencias para p¨¢ginas que luego aprovechan su ¨¦xito para monetizar o incluso estafar a usuarios.

¡°Las im¨¢genes son cautivadoras: algunas son hermosas, otras son sensacionales y las hay que solo son raras¡±, dice Ren¨¦e DiResta, investigadora de la Universidad de Stanford y coautora de un art¨ªculo en marzo sobre este fen¨®meno titulado ¡°C¨®mo spameadores y estafadores utilizan im¨¢genes generadas por IA en Facebook para el crecimiento de audiencia¡±. Miles de usuarios interact¨²an con esas im¨¢genes, muchos con un simple ¡°am¨¦n¡±, lo que podr¨ªa significar que se trata de bots.

Facebook se ha convertido con los a?os en una red donde se comparte contenido y un objetivo b¨¢sico es aumentar la audiencia. Los Jesucristos son un recurso m¨¢s, f¨¢cil de crear y que llama la atenci¨®n: ¡°La competencia por la atenci¨®n entre los creadores de p¨¢ginas significa que utilizar¨¢n cualquier t¨¢ctica que parezca funcionar, lo que ahora incluye publicar contenido generado por IA que los sistemas de recomendaci¨®n parecen estar promoviendo¡±, sigue DiResta.

Los textos que a?aden los autores sirven para promover esa viralidad. En algunas im¨¢genes, un ni?o negro sale al lado de un Jesucristo hecho con espaguetis y el texto dice: ¡°Gracias a todos los que aprecian mi arte¡±. En ninguna de estas im¨¢genes se avisa de que hayan sido realizadas artificialmente.

El art¨ªculo acad¨¦mico ha estudiado 120 p¨¢ginas de Facebook que han publicado al menos 50 im¨¢genes generadas por IA cada una. Una prueba del ¨¦xito es que las p¨¢ginas ten¨ªan una media de casi 130.000 seguidores. Al poco de mirar esas fotograf¨ªas, el algoritmo de Facebook ofrec¨ªa m¨¢s ejemplos y nuevas variantes. Las que ha visto EL PA?S, eran de p¨¢ginas de usuarios latinoamericanos que combinaban estas im¨¢genes religiosas con memes, animales y bodegones hechos tambi¨¦n con IA, donde sobreescriben ¡°buenos d¨ªas¡± o v¨ªdeos graciosos. Uno de ellos, un haitiano residente en M¨¦xico, respondi¨® brevemente a este peri¨®dico que esas im¨¢genes s¨ª las hac¨ªa ¨¦l, que gustan mucho a la gente y reconoci¨® que se puede ganar algo con ellas: ¡°S¨ª¡±, respondi¨®, pero no quiso explicar c¨®mo. Este usuario ten¨ªa m¨¢s de 7.000 seguidores.

M¨¢s all¨¢ de las trampas dentro de Facebook, el debate de fondo es: si la gente confunde estas im¨¢genes rid¨ªculas con arte real, ?qu¨¦ pasar¨¢ cuando lo generado por IA sea realista de verdad? No hay certezas, aunque tampoco todo el mundo se confunde. Debajo de una de estas fotos una usuaria dice: ¡°Qu¨¦ maravilla de escultura son unas manos bendecidas por Dios, mi amor eres un genio, Dios te bendiga hoy ma?ana y siempre felicitaciones desde Colombia¡±. Otra le respond¨ªa: ¡°Ay se?ora, como puede creer en estas cosas, que f¨¢cil de enga?ar es usted, ?no se da cuenta de que es una imagen falsa? No hay que creer todo lo que se publica en las redes¡±.

La mujer cr¨¦dula recibi¨® otra respuesta que ilustra uno de los tipos de estafa. Si alguien cree que esas im¨¢genes falsas son reales, es probablemente m¨¢s ingenuo y f¨¢cil de timar: ¡°Soy francesa y han pasado m¨¢s de 13 a?os de que mi marido madur¨® [sic] en un accidente automovil¨ªstico. Despu¨¦s de la muerte, hered¨¦ la fortuna de mi marido. Teniendo en cuenta mi avanzada edad y mi salud, decid¨ª ayudar econ¨®micamente a las personas que deseen recibir asistencia financiera para sus necesidades, ya que no tengo hijos para beneficiarse de mi herencia y no quiero que el gobierno congele mi fortuna despu¨¦s de la muerte. As¨ª que si te interesa la actividad econ¨®mica, env¨ªame un mensaje¡±, y a?ad¨ªa un enlace a un n¨²mero de WhatsApp real.

¡°Las cuentas de estafas de vez en cuando interact¨²an con comentaristas cr¨¦dulos en las publicaciones, tanto en p¨¢ginas como en grupos, a veces pidiendo informaci¨®n personal sobre ellos u ofreci¨¦ndoles vender productos que no existen¡±, explica el art¨ªculo. Una vez creada una audiencia en un grupo o p¨¢gina, los modos de intentar extraer beneficios var¨ªan: ¡°Marcamos las p¨¢ginas como ¡®estafa¡¯ si: uno, enga?an a los seguidores robando, comprando o cambiando el control de la p¨¢gina; dos, afirman falsamente un nombre, direcci¨®n u otra caracter¨ªstica identificativa; y/o, tres, venden productos falsos¡±, detalla el art¨ªculo acad¨¦mico.

Algunas de las p¨¢ginas que usan estas t¨¢cticas a menudo cambian de nombre y mantienen a sus seguidores para dedicarse a otra cosa o venden la audiencia. Las p¨¢ginas de spam aprovechan la atenci¨®n para llevar a los usuarios a p¨¢ginas fuera de Facebook que est¨¢n colmadas de anuncios.

Jesucristo es solo uno de los reclamos principales. En el tercer trimestre de 2023, una de las 20 im¨¢genes m¨¢s vistas en Facebook global fue esta cocina con el suelo de cristal. Ten¨ªa 40 millones de visualizaciones y 1,9 millones de interacciones, seg¨²n el informe trimestral de la plataforma sobre su contenido m¨¢s visto. Algunas de las p¨¢ginas que prueban esta trampa prueban tambi¨¦n con animales, ni?os, caba?as o paisajes, cualquier cosa que pueda llamar la atenci¨®n en Facebook: ¡°Igual que Picasso tuvo su periodo azul, las p¨¢ginas a menudo pasaban por per¨ªodos, unas cuantas docenas de esculturas en nieve; unas cuantas docenas de tallados en sand¨ªa; unas cuantas docenas de tallados en madera; unas cuantas docenas de platos de sushi art¨ªsticamente arreglados, cada uno con un estilo muy similar¡±, dice el art¨ªculo.

¡°Sospechamos que estos altos niveles de interacci¨®n son dirigidos en parte por el algoritmo de recomendaci¨®n de Facebook¡±, dicen en el art¨ªculo DiResta y su coautor Josh A. Goldstein, de la Universidad de Georgetown. Hace dos a?os, seg¨²n un documento filtrado de Meta, la red social cambi¨® su algoritmo para parecerse m¨¢s a TikTok. El objetivo era, seg¨²n el documento, ¡°ayudar a la gente a encontrar y disfrutar de contenido interesante sin que importe si fue producido por alguien con quien est¨¢s o no conectado¡±. Los autores muestran como este contenido ¡°Sugerido para ti¡± pas¨® ¡ªen porcentaje del n¨²mero de visualizaciones¡ª de un 8% en 2021 a un 24% en 2023.

Aunque el centro de operaciones de todas estas im¨¢genes virales es Facebook, tambi¨¦n hay en Instagram: ¡°Las im¨¢genes generadas por IA tambi¨¦n son populares en Instagram¡±, dice DiResta. ¡°Est¨¢n en Twitter y en todos lados, pero el dise?o de Facebook e Instagram hace que la gente cree tipos espec¨ªficos de contenido visual y construya audiencias con el tiempo¡±.

En febrero Meta anunci¨® que iba a etiquetar el contenido generado por IA tanto en Facebook como Instagram y Threads. De momento no ocurre en ninguno de estos casos. Para valorar potenciales peligros, este detalle es importante. Aunque en algunos casos es f¨¢cil detectar im¨¢genes generadas por IA, no siempre ser¨¢ as¨ª: ¡°Incluso en casos donde hay se?ales obvias, identificarlas todav¨ªa requiere un gran esfuerzo cognitivo, y puede no ser realista esperar del usuario promedio de Facebook que simplemente est¨¢ echando un vistazo a su cronolog¨ªa¡±.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.