Un estudiante de Princeton desarrolla una herramienta para detectar el uso de ChatGPT en un texto

Cuando Edward Tian, estudiante de ¨²ltimo curso en la Universidad de Princeton (Nueva Jersey, Estados Unidos), volvi¨® a casa en las vacaciones de Navidad, ChatGPT ya monopolizaba conversaciones y debates en todo el mundo. OpenAI, una compa?¨ªa que investiga con inteligencia artificial (IA), hab¨ªa lanzado el 30 de noviembre ChatGPT, un chatbot o programa inform¨¢tico con el que ...

Cuando Edward Tian, estudiante de ¨²ltimo curso en la Universidad de Princeton (Nueva Jersey, Estados Unidos), volvi¨® a casa en las vacaciones de Navidad, ChatGPT ya monopolizaba conversaciones y debates en todo el mundo. OpenAI, una compa?¨ªa que investiga con inteligencia artificial (IA), hab¨ªa lanzado el 30 de noviembre ChatGPT, un chatbot o programa inform¨¢tico con el que se puede mantener una conversaci¨®n y que ya forma parte del d¨ªa a d¨ªa de muchos que lo han podido probar (cuando no se encuentra colapsado por la enorme demanda). Entre las pol¨¦micas que surgieron con este lanzamiento, la que se refiere a que los estudiantes pueden redactar ensayos o incluso una obra de ficci¨®n solo con proponerle un tema al programa o haci¨¦ndole unas cuantas preguntas es de las m¨¢s comentadas.

Haciendo uso de la propia arquitectura de ChatGPT, Tian dise?¨® durante sus d¨ªas de descanso GPTZero, una herramienta que permite detectar si un texto ha sido elaborado con inteligencia artificial, como recoge la publicaci¨®n NewScientist. En algunas pruebas realizadas, el modelo alcanza un 98% de precisi¨®n. ¡°Tuvimos m¨¢s de 35.000 profesores en la lista de espera mientras trabaj¨¢bamos en la versi¨®n personalizada para educadores¡±. Esa versi¨®n se lanz¨® el 14 de febrero, pero, hasta entonces, estuvo disponible una versi¨®n beta de libre acceso (es decir, que no es necesario registrarse para probarla), que sigue disponible todav¨ªa.

En esa versi¨®n de prueba se puede comprobar c¨®mo la herramienta eval¨²a cu¨¢n probable es que un texto haya sido elaborado por la inteligencia artificial y cu¨¢nto var¨ªa esa probabilidad a lo largo del escrito, porque lo producido por una persona contiene fragmentos que podr¨ªan parecer haber sido elaborados por una inteligencia artificial y otros que no, mientras que lo generado por la inteligencia artificial es m¨¢s constante.

La motivaci¨®n de Edward Tian para desarrollar la contrapartida de ChatGPT surgi¨®, seg¨²n relata, de que ¡°estas tecnolog¨ªas son muy innovadoras, pero, al lanzarlas al mundo, hay mucho potencial para el abuso, as¨ª que hay que construir defensas al mismo tiempo, no meses o a?os m¨¢s tarde¡±. ¡°No esperaba en absoluto que se hiciera viral¡±, asegura. De hecho, el sitio web que utiliz¨® para albergar GPTZero enseguida le proporcion¨® recursos gratuitos, tras convertirse en la aplicaci¨®n m¨¢s popular de la plataforma.

Cuando, durante las Navidades, visit¨® su antiguo instituto, la profesora de ingl¨¦s de Tian le traslad¨® su percepci¨®n de que todos los alumnos est¨¢n utilizando ChatGPT. Por eso, y por los comentarios que le han llegado, es consciente de que su herramienta se ha convertido en un alivio para los profesores: ¡°Muchos dicen que es reconfortante saber que GPTZero existe. Aunque no lo est¨¦n usando, les resulta tranquilizador saber que est¨¢ ah¨ª¡±.

Plagio digital

Crist¨®bal Fern¨¢ndez Mu?oz, vicedecano de Comunicaci¨®n y Relaciones Institucionales de la Facultad de Ciencias de la Informaci¨®n de la Universidad Complutense de Madrid, explica que en el ¨¢mbito acad¨¦mico est¨¢n siguiendo muy de cerca lo que ocurre con ChatGPT: ¡°El plagio digital debido a la inteligencia artificial es algo especialmente preocupante en ¨¢mbitos como el educativo, donde la originalidad es un valor irremplazable¡±.

En la Universidad Complutense, por ejemplo, llevan a?os utilizando un programa de detecci¨®n de plagio llamado Turnitin, que se encuentra incorporado en el campus virtual y que incluso los alumnos pueden utilizarlo al entregar trabajos, de forma que ven el porcentaje de posible plagio y los fragmentos sospechosos. ¡°GPTZero es un proyecto muy interesante, seguramente veremos muchos m¨¢s en la misma l¨ªnea, como Turnitin, que en 2023 incorporar¨¢ m¨¢s funcionalidades de detecci¨®n de escritura con IA, incluidas aquellas que reconocen el uso de ChatGPT¡±, se?ala el profesor.

Al preguntarle a Edward Tian con qu¨¦ reacciones se ha encontrado por parte de otros estudiantes, dice esperar que no est¨¦n enfadados, y asegura no pretender que a ra¨ªz de su herramienta el asunto se convierta en una batalla de profesores contra alumnos. ¡°De hecho, pertenezco al equipo de los estudiantes. Yo mismo utilizo ChatGPT para mis clases de codificaci¨®n y creo que los estudiantes deben tener acceso a estas tecnolog¨ªas y usarlas porque es nuestro futuro. Creo que GPTZero se est¨¢ alejando del blanco y del negro, y est¨¢ siendo una herramienta que sirve para iniciar la conversaci¨®n entre los alumnos y los maestros¡±. Su objetivo es que estas tecnolog¨ªas se utilicen de forma responsable y no como un arma secreta, ni por parte del alumno ni del profesor.

¡°En el ¨¢mbito educativo, no ser¨¢ extra?o que proliferen pruebas alternativas para evitar textos generados autom¨¢ticamente, como las realizadas en tiempo real con dispositivos que carezcan de esta tecnolog¨ªa o ex¨¢menes presenciales orales y escritos manualmente. Sin embargo, esto no quiere decir que estemos en contra del uso de estas tecnolog¨ªas. En determinados casos, hay espacio para ellas si se usan siempre de manera ¨¦tica. Siempre que sea utilizada con responsabilidad, la inteligencia artificial tiene el potencial de apoyar y mejorar el proceso de aprendizaje¡±, insiste Crist¨®bal Fern¨¢ndez.

La desarrolladora de ChatGPT, OpenAI, tambi¨¦n lanz¨® a finales de enero una herramienta para indicar si un texto ha sido escrito con inteligencia artificial, pero, en este caso, lo que hace es clasificar la posibilidad entre muy improbable, improbable, posible o probable. La propia compa?¨ªa reconoce que ¡°no es del todo confiable¡±. En las pruebas que ha realizado la empresa, la herramienta acert¨® que los textos hab¨ªan sido escritos por la inteligencia artificial en un 26% de los casos, mientras que en un 9% de las ocasiones etiquet¨® como elaborados por inteligencia artificial textos redactados por personas. Aun as¨ª, insiste en que, cuanto m¨¢s largo sea el escrito, m¨¢s mejora el mecanismo.

OpenAI ya ha empezado a trabajar en una marca de agua que ayude a identificar los textos que han sido producidos por su ChatGPT, pero, seg¨²n los expertos en criptograf¨ªa, aunque se ponga en marcha, habr¨¢ quien encuentre alternativas. Adem¨¢s, GPTZero y los modelos similares que surjan solo podr¨¢n seguir funcionando si OpenAI contin¨²a proporcionando acceso libre a sus modelos de inteligencia artificial. De hecho, ahora mismo, la herramienta de Tian funciona con una versi¨®n previa a la ¨²ltima de ChatGPT, por lo que algunos expertos advierten que, si el modelo de OpenAI se actualiza para convertirlo en algo distinto, podr¨ªa extraer resultados inexactos.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.