La lucha de una madre y una hija contra los ¡®deepfakes¡¯ pornogr¨¢ficos en Internet

Este a?o, padres de familia y estudiantes de la secundaria Westfield en Nueva Jersey recibieron un alarmante correo electr¨®nico de la direcci¨®n, donde se explicaba que algunos alumnos hab¨ªan creado im¨¢genes pornogr¨¢ficas de sus compa?eras de clase usando una aplicaci¨®n de inteligencia artificial.

A ra¨ªz del incidente, Dorota Mani y su hija de 14 a?os Francesca, v¨ªctima de las im¨¢genes falsas fabricadas en l¨ªnea, se han convertido en activistas para combatir este tipo de falsificaciones, cada vez m¨¢s comunes de hallar en Internet. Aunque algunos Estados han presentado leyes para intentar resolver el problema de forma urgente, expertos se?alan la necesidad apremiante de una legislaci¨®n federal que sirva como regulaci¨®n general en el pa¨ªs.

En el caso del alumnado en Westfield, se lanz¨® una investigaci¨®n sobre la distribuci¨®n de estas im¨¢genes falsas en redes sociales y de acuerdo con Mani, al menos un alumno fue suspendido por un d¨ªa. El colegio, a petici¨®n de la agencia AP, no quiso confirmar oficialmente las acciones disciplinarias que se tomaron de forma adicional. Los padres de las v¨ªctimas han denunciado el actuar de las autoridades educativas como una respuesta ineficiente a la situaci¨®n.

Los v¨ªdeos hiperrealistas falsos afectan principalmente a las mujeres. Seg¨²n Sensity AI, una compa?¨ªa de investigaci¨®n que rastrea v¨ªdeos hiperrealistas falsos en internet, entre el 90% y el 95% de ellos son pornograf¨ªa sin consentimiento y nueve de cada 10 de estos se refieren a mujeres.

Sigue toda la informaci¨®n internacional en Facebook y X, o en nuestra newsletter semanal.