Algoritmos que detectan si un texto lo ha escrito un humano¡ u otro algoritmo
La Universidad de Harvard y el MIT-IBM Watson AI Lab han desarrollado una herramienta que podr¨ªa ayudar a detectar noticias generadas por ordenador
La inteligencia artificial es esa tecnolog¨ªa multidisciplinar y sabelotodo que presume de poder hacer cualquier cosa que se te da bien, pero mil veces mejor que t¨². ?Te gustan los videojuegos? D¨¦jale un mando a una m¨¢quina y te dar¨¢ la paliza de tu vida ?Eres un maestro del ajedrez? Dale un par de horas para aprender a jugar y te gana hasta a las damas. ?Se te da bien escribir? Tal vez aqu¨ª le falte m¨¢s recorrido, pero, por si acaso, no subestimes el potencial del aprendizaje autom¨¢tico.
Hace alg¨²n tiempo que los algoritmos comenzaron a interesarse por la literatura. Algunos se estrenan en el periodismo redactando historias locales. Otros encuentran en Wikipedia una fuente de inspiraci¨®n para escribir novelas. Los m¨¢s ambiciosos optan por dedicarse de lleno a componer relatos de terror.
La automatizaci¨®n de estas labores trae consigo innumerables ventajas y alg¨²n que otro inconveniente. El perfeccionamiento de este trabajo puede hacer que una persona sea incapaz de distinguir si un texto est¨¢ escrito por un humano o una m¨¢quina, lo que, entre otras cosas, podr¨ªa ayudar a la proliferaci¨®n de noticias falsas. Parad¨®jicamente, la inteligencia artificial puede convertirse en la herramienta perfecta para detectar si un texto ha sido escrito por un algoritmo.
- ?Es esa la palabra que espero que escribas?
La Universidad de Harvard y el MIT-IBM Watson AI Lab ¡ªun laboratorio acad¨¦mico e industrial que trabaja en investigaci¨®n relacionada con inteligencia artificial¡ª han desarrollado una herramienta que ayuda a detectar si un texto ha sido generado de forma autom¨¢tica. La plataforma se llama Giant Language Model Test Room (GLTR) y no se preocupa por el significado de las oraciones. En vez de eso, se dedica a buscar patrones estad¨ªsticos en el texto: analiza cada palabra y se?ala si estas son demasiado predecibles para haber sido escritas por un ser humano.
La plataforma utiliza un sistema de colores para que los usuarios puedan comprobar la probabilidad de que el texto est¨¦ generado por ordenador de una forma eminentemente visual. Las palabras que el algoritmo considera m¨¢s predecibles aparecen subrayadas en verde, si son m¨¢s imprevisibles, se les asigna el amarillo o el rojo y, para aquellas que el sistema considera m¨¢s originales, utiliza el morado.
Pero detectar la probabilidad de que aparezca una palabra u otra no era una tarea f¨¢cil. En este punto, entra en juego OpenAI, una compa?¨ªa de investigaci¨®n de inteligencia artificial que hab¨ªa desarrollado un algoritmo capaz de construir fragmentos muy realistas a partir de un modelo de aprendizaje autom¨¢tico que recog¨ªa los patrones estad¨ªsticos de ciertas palabras. El equipo de GLTR aprovech¨® una versi¨®n del c¨®digo que la plataforma hab¨ªa lanzado p¨²blicamente para abordar esta cuesti¨®n.
¡°El sistema de OpenAI predice la siguiente palabra a partir de las palabras anteriores dentro de un texto y as¨ª puede generar fragmentos autom¨¢ticos de mucha calidad¡±, explica Hendrik Strobelt, cient¨ªfico de IBM Research. ¡°Lo que nosotros hicimos fue darle la vuelta a este razonamiento. Preguntar al sistema: ?qu¨¦ probabilidad hay de que aparezca la palabra ¡®perro¡¯ en esta posici¨®n en el texto? Y reflejamos con un sistema de colores si es la quinta palabra m¨¢s probable o la decimotercera¡±.
Para poner a prueba este modelo, los creadores del sistema pidieron a un grupo de alumnos de Harvard que probaran a distinguir entre varios textos generados por ordenador y otros escritos por humanos. Los estudiantes fueron capaces de de acertar con ¨¦xito en el 54% de los casos. Despu¨¦s les propusieron repetir el ejercicio con nuevos textos con la ayuda de su herramienta. En esta segunda ronda, lo detectaron en el 72% de los casos.
La plataforma es de c¨®digo abierto y se puede utilizar de forma sencilla a trav¨¦s de este enlace. El objetivo final que persiguen los investigadores que han trabajado en su desarrollo es llegar a crear modelos h¨ªbridos en los que la colaboraci¨®n entre humanos y sistemas de inteligencia artificial puedan conseguir una mayor eficiencia en la detecci¨®n de patrones que permitan identificar estos textos.
Strobelt considera que su herramienta puede ser de utilidad para combatir las noticias falsas, que describe como una amenaza potencial. ¡°En la actualidad, para generar fake news es necesario contar con un equipo de personas, es caro y lleva tiempo¡±, apunta el investigador alem¨¢n. ¡°Las herramientas de inteligencia artificial son cada vez mejores imitando los textos escritos por seres humanos. Con muy poco dinero, es posible producir m¨¢s y m¨¢s r¨¢pido¡±.
Tu suscripci¨®n se est¨¢ usando en otro dispositivo
?Quieres a?adir otro usuario a tu suscripci¨®n?
Si contin¨²as leyendo en este dispositivo, no se podr¨¢ leer en el otro.
FlechaTu suscripci¨®n se est¨¢ usando en otro dispositivo y solo puedes acceder a EL PA?S desde un dispositivo a la vez.
Si quieres compartir tu cuenta, cambia tu suscripci¨®n a la modalidad Premium, as¨ª podr¨¢s a?adir otro usuario. Cada uno acceder¨¢ con su propia cuenta de email, lo que os permitir¨¢ personalizar vuestra experiencia en EL PA?S.
?Tienes una suscripci¨®n de empresa? Accede aqu¨ª para contratar m¨¢s cuentas.
En el caso de no saber qui¨¦n est¨¢ usando tu cuenta, te recomendamos cambiar tu contrase?a aqu¨ª.
Si decides continuar compartiendo tu cuenta, este mensaje se mostrar¨¢ en tu dispositivo y en el de la otra persona que est¨¢ usando tu cuenta de forma indefinida, afectando a tu experiencia de lectura. Puedes consultar aqu¨ª los t¨¦rminos y condiciones de la suscripci¨®n digital.
