El plagio en las escuelas, el futuro del trabajo y la igualdad de oportunidades: estos son los desaf¨ªos que plantea la inteligencia artificial

Casi dos tercios (el 63 %) de los docentes estadounidenses usan ya la inteligencia artificial generativa para planificar sus clases, encontrar actividades creativas o elaborar una base sobre la que desarrollar el resto de su temario, seg¨²n una encuesta de Impact Research y Walton Family Foundation. Junto a ellos, la usan un 42 % de los estudiantes, y tanto profesores como alumnos y padres tienen una opini¨®n positiva de esta herramienta. Una inmensa mayor¨ªa (el 84 %) de los docentes que ya han usado ChatGPT consideran que su impacto en la ense?anza es muy positivo. Y, sin embargo, su uso plantea sobre todo ciertas preguntas relacionadas con la autenticidad de los trabajos: ?existe alguna manera de prevenir o combatir la posibilidad de plagio?

¡°Prevenir el plagio es tan sencillo como poner al estudiante en una situaci¨®n en la que tenga que demostrar que en verdad posee el conocimiento. Esto ya existe desde las escuelas del Antiguo Egipto¡±, se?ala Carlos Guardiola, director de Nuevos Negocios en la escuela de profesiones digitales Ironhack. A trav¨¦s de un trabajo de reflexi¨®n, se?ala, los estudiantes acced¨ªan a un tema, buscaban fuentes, contrastaban informaci¨®n y elaboraban su propia conclusi¨®n razonada. ¡°El objetivo es que el alumno aprenda a hacer una reflexi¨®n cr¨ªtica por su cuenta y que luego demuestre ser capaz de ello¡±, a?ade.

Sin embargo, abordar el desaf¨ªo que presenta la inteligencia artificial generativa exige, antes que nada, adaptar las metodolog¨ªas educativas de manera que no sea tan sencillo usar herramientas como ChatGPT para generar en segundos un contenido que hacer pasar como propio. Un peligro que coloca en el foco del debate la necesidad de educar a los estudiantes en cuestiones de tipo ¨¦tico como la integridad acad¨¦mica.

¡°Una de las claves para combatir el plagio es cambiar el enfoque de la evaluaci¨®n: en vez de centrarse en el producto final, los educadores deben prestar atenci¨®n al proceso de aprendizaje del estudiante, lo que implica valorar las discusiones en clase, los borradores, las reflexiones y cualquier otro m¨¦todo que muestre el proceso de pensamiento y desarrollo del estudiante¡±, se?ala Frankie Carrero, director de Data & IA en VASS. En otras palabras, alentar a los alumnos a pensar de manera cr¨ªtica y creativa.

Tanto Guardiola como Carrero (y una gran mayor¨ªa de docentes) coinciden en se?alar la oportunidad que representa la incorporaci¨®n a la ense?anza y el aprendizaje de estas y otras herramientas basadas en la inteligencia artificial. Llueve sobre mojado porque, para maximizar estas oportunidades, ser¨ªa conveniente rebajar las ratios actuales de profesores y alumnos, un debate que tras dejar atr¨¢s la pandemia vuelve (c¨®mo no) a caer en saco roto frente a la falta de voluntad pol¨ªtica. ¡°Gracias a la IA y a su capacidad para mejorar la experiencia del alumno y la del profesor, hay una gran oportunidad de volver a un entorno formativo m¨¢s cercano y personal, con un maestro que tenga menos alumnos por clase y que trabaje m¨¢s cerca de ellos, fomentando un di¨¢logo que ayude a percibir su capacidad de razonamiento¡±, esgrime Guardiola.

?Se puede detectar el uso de una IA?

A d¨ªa de hoy ya existen herramientas especializadas que afirman ser capaces de diferenciar los contenidos generados humanos de aquellos generados por IA: GPTZero, Writefull¡¯s GPT Detector, Originality.ai y Copyleaks son alguno de ellos. Se trata de aplicaciones que analizan las caracter¨ªsticas espec¨ªficas del texto, como patrones repetitivos o inusuales, la falta de originalidad y la estructura general de las oraciones. ¡°Aunque los modelos de IA pueden imitar estilos de escritura, a veces generan textos que carecen de ¡°toque humano¡±, son repetitivos o hacen afirmaciones demasiado generales¡±, advierte Carrero. Pero estas herramientas de detecci¨®n tampoco son infalibles: algunos estudios recientes, como el publicado en ScienceDirect, han revelado que estas herramientas pueden cometer errores, identificando textos humanos reales como generados por IA.

Y es que, si la tecnolog¨ªa posibilit¨® la creaci¨®n de estas soluciones, tambi¨¦n hizo lo propio con el desarrollo de t¨¦cnicas para evadirlas... Sin olvidar la m¨¢s b¨¢sica (y anal¨®gica de todas): una persona puede pedirle un texto a una IA y luego hacerlo suyo, modific¨¢ndolo, cambiando la redacci¨®n a su antojo y as¨ª haci¨¦ndolo virtualmente indetectable.

Ante este reto, habr¨¢ quien todav¨ªa se pregunte si acaso es factible restringir o, directamente, prohibir el uso de herramientas de IA generativas por parte de los estudiantes, como de hecho ya se hizo a lo largo del ¨²ltimo a?o (el Estado de Nueva York y las escuelas de Seattle, en EE UU, y las universidades australianas son varios ejemplos). Un a?o despu¨¦s de la irrupci¨®n de ChatGPT, la tendencia es m¨¢s hacia c¨®mo se la puede incorporar de forma productiva en las aulas, pero sigue ech¨¢ndose en falta una regulaci¨®n de uso adecuada: de acuerdo con un reciente informe de la UNESCO llevado a cabo en m¨¢s de 450 escuelas y universidades, menos del 10 % han implementado pol¨ªticas institucionales o directrices que regulen el uso de aplicaciones de IA generativa.

El mismo organismo recuerda adem¨¢s que, si bien el uso de la tecnolog¨ªa puede ser beneficioso para la educaci¨®n, tambi¨¦n puede tener un impacto perjudicial si se emplea en exceso o sin la adecuada supervisi¨®n por parte del profesor, ya que entonces contribuye a su distracci¨®n y genera un peor rendimiento. Hay estudios recientes que advierten del efecto negativo que provocan en la atenci¨®n y capacidad de concentraci¨®n de los alumnos de Infantil y Primaria; y, de hecho, el informe GEM de la UNESCO de julio de 2023 recomienda a los colegios de todo el mundo que proh¨ªban el uso de dispositivos como smartphones o tablets.

?En qu¨¦ profesiones puede la IA ser m¨¢s ¨²til?

El uso de la IA generativa tiene el potencial de mejorar la productividad y ahorrar tiempo a los profesionales de cualquier sector, pero muy especialmente a aquellos que se dedican a gestionar informaci¨®n y conocimiento: programadores, abogados, periodistas, profesores, economistas, publicistas, administrativos... ?Por qu¨¦? ¡°Muy sencillo: un sistema de IA generativa puede ayudar en todas las tareas que hace un trabajador de la informaci¨®n; y las ventajas pueden medirse tanto desde el punto de vista de la productividad como de la mejora personal, potenciando las capacidades de la persona¡±, indica Guardiola.

En el sector jur¨ªdico, por ejemplo, estas innovaciones realizan una gran cantidad de funciones que antes llevaban a cabo las personas, contribuyendo a la automatizaci¨®n del trabajo y la simplificaci¨®n de algunas tareas. ¡°As¨ª, se acaba el aburrimiento y el abogado pasa a focalizarse en lo que le aporta valor, adem¨¢s de conseguir un mayor equilibrio entre la vida laboral y personal¡±, indican desde Lefebvre. Entre otras ventajas, y gracias a la IA, ¡°la informaci¨®n jur¨ªdica ser¨¢ adem¨¢s mucho m¨¢s accesible tanto a clientes como a profesionales del sector, pudiendo ofrecer desde consejos legales hasta explicaciones adaptadas a cada caso¡±.

¡°Quiz¨¢s no lo vemos como algo positivo en este momento porque surgen muchas dudas y riesgos no conocidos que habr¨¢ que evaluar, pero si reflexionamos sobre todo ello, veremos que podremos elevar el intelecto humano a otro nivel¡±, esgrime Carrero. ¡°Tendremos a nuestra disposici¨®n un set inmenso de asistentes personales, imagen, voz, v¨ªdeo... que pueden ayudarnos a potenciar nuestra creatividad¡±.

Retos y desaf¨ªos de la IA

Pese a las ventajas ya se?aladas, la verdadera cuesti¨®n puede que radique en d¨®nde poner el l¨ªmite en el uso de las herramientas de IA generativa. Los desaf¨ªos no son escasos, como recuerda Carrero: ¡°Los profesores y educadores se enfrentan a la posibilidad de plagio; los periodistas, a las fake news; los dise?adores y artistas, a dise?os y obras de arte producidos por la IA que pueden poner en tela de juicio el valor y la singularidad del trabajo humano; y en el mundo del entretenimiento, el papel de la IA en la creaci¨®n de m¨²sica, literatura o pel¨ªculas llega a cuestionar la autor¨ªa y la originalidad¡±.

Los desaf¨ªos ¨¦ticos, t¨¦cnicos y sociales que plantea la IA sirven, adem¨¢s, para ilustrar la necesidad de desarrollar una regulaci¨®n adecuada que aborde todos sus peligros:

• La posibilidad de sesgo y discriminaci¨®n. ¡°Puesto que los sistemas de IA se entrenan con datos, si se refleja cualquier tipo de prejuicios, estos se pueden acabar amplificando. Y ello podr¨ªa, a su vez, resultar en toda clase de decisiones injustas, desde la selecci¨®n de personal hasta fallos judiciales¡±, afirma Carrero.
• Igualdad de oportunidades. La AI Act, que se est¨¢ elaborando en el seno de la Uni¨®n Europea y que ver¨¢ la luz previsiblemente a finales de 2025 o principios de 2026, se basar¨¢ en los principios de transparencia, igualdad de oportunidades, no discriminaci¨®n y otros aspectos como la prohibici¨®n del reconocimiento facial y el scoring social.
• Privacidad y datos. La IA tiene el potencial de recopilar y analizar informaci¨®n personal a una escala sin precedentes. Sin regulaciones claras, esto podr¨ªa llevar a violaciones de la privacidad.
• Libertades y derechos civiles. La regulaci¨®n en el campo de la tecnolog¨ªa es una manera de defender los derechos civiles, ¡°cuando las reglas del libre mercado hacen que surjan tecnolog¨ªas que obedecen a la voluntad de empresarios privados, pero con un impacto y unas consecuencias imprevistas en la sociedad, de las que nadie se hace responsable¡±, apunta Guardiola.
• Responsabilidad. Para Carrero, es necesario establecer unas l¨ªneas claras respecto a la asunci¨®n de responsabilidad cuando un sistema de IA comete un error, especialmente en ¨¢reas cr¨ªticas como la medicina, el transporte, las finanzas o el ¨¢mbito militar (como en sistemas de armas aut¨®nomas).
• Desinformaci¨®n. Las herramientas de IA pueden generar informaci¨®n falsa o manipulada, como sucede en el caso de los deepfakes, con serias implicaciones en campos como la pol¨ªtica, el periodismo y la percepci¨®n p¨²blica.

Guardiola, por su parte, hace hincapi¨¦ en el efecto que la IA generativa puede tener ene l ¨¢mbito laboral: ¡°Reducir costes es la decisi¨®n racional de cualquier empresa (¡­). M¨¢s que para una profesi¨®n, el riesgo est¨¢ en los profesionales, y en la capacidad de reemplazar a una persona por otra que tenga la misma productividad a un menor coste, y complement¨¢ndola con una IA¡±. Y luego, a?ade, est¨¢ el reto para los pa¨ªses: ¡°La competitividad de las personas, llevada a la deslocalizaci¨®n del trabajo y la globalizaci¨®n, puede hacer que la riqueza que se pierda en un pa¨ªs se genere en otro de un bloque diferente. A nivel europeo, por ejemplo, se pueden articular programas como los NextGen, para que la competitividad a nivel de bloque se mantenga y la riqueza que se cree se distribuya¡±.

?Hacia d¨®nde ir¨¢ la IA generativa?

Si, en la actualidad, la IA generativa depende de la voluntad y las instrucciones de quien la usa para generar un contenido, una condici¨®n que seg¨²n Guardiola quedar¨¢ superada en el futuro: ¡°El siguiente salto tiene que ver con la capacidad de la IA de elegir una acci¨®n, hacerla y, por lo tanto, tener responsabilidad (o agency, por su t¨¦rmino en ingl¨¦s) sobre la misma. Aplicado a la IA generativa, significar¨ªa, por ejemplo, conocer las inquietudes de un colectivo y materializar propuestas culturales que respondan a su inter¨¦s¡±.

Pero las posibilidades son muchos mayores. Se espera tambi¨¦n que acelere el desarrollo de entornos 3D para realidad virtual y aumentada; y en los videojuegos, contribuir¨¢ a la creaci¨®n de entornos m¨¢s inmersivos y personajes no jugadores que interact¨²en m¨¢s real¨ªsticamente. Y Guardiola termina citando a Mustafa Suleyman, cofundador de DeepMind, quien en su ensayo The Coming Wave afirma que ¡°en un futuro cercano, una IA deber¨ªa ser capaz de identificar un reto de un colectivo, idear una soluci¨®n, construir sobre ella un modelo de negocio, materializarla y comercializarla de manera exitosa¡±.

FORMACI?N EL PA?S en X y Facebook

Suscr¨ªbase a la newsletter de Formaci¨®n de EL PA?S