Vigilancia autom¨¢tica de ex¨¢menes: un gran hermano torpe y peligroso

Como muchos otros ¨¢mbitos, el de los ex¨¢menes en la era c¨®vid se presta al solucionismo tecnol¨®gico: que sea la Inteligencia Artificial la que vigile los ex¨¢menes. Pero¡­ ?son las tecnolog¨ªas de vigilancia autom¨¢tica (TVA) la soluci¨®n a este problema? En los ¨²ltimos a?os, estas tecnolog¨ªas parecen estar en boga. Sin embargo, hay evidencias crecientes de que pueden causar serios perjuicios y de que conllevan problemas t¨¦cnicos, jur¨ªdicos y ¨¦ticos.

Tanto es as¨ª que la Uni¨®n Europea est¨¢ estudiando una moratoria a todos los usos del reconocimiento facial en dominios sensibles, incluyendo vigilancia, polic¨ªa, educaci¨®n y empleo. Bastantes ciudades de Estados Unidos, entre ellas San Francisco, Berkeley y Oakland, han legislado ya prohibiciones para evitar que instituciones gubernamentales hagan uso de ello. Por ¨²ltimo, empresas como IBM, Amazon o Microsoft est¨¢n abandonando sus planes en estas tecnolog¨ªas.

En Espa?a, la UNED, pionera en la ense?anza a distancia, se lo pregunt¨®: ?podemos delegar exclusivamente en las TVA la responsabilidad de garantizar la limpieza en los ex¨¢menes en l¨ªnea? La respuesta fue tratar de replicar los ex¨¢menes presenciales mediante el desarrollo del Aula Virtual de Examen, herramienta con la que se han realizado m¨¢s de medio mill¨®n de ex¨¢menes, y que no implementa vigilancia autom¨¢tica. Para llegar a esta soluci¨®n, se identificaron ciertos asuntos potencialmente problem¨¢ticos de las TVA:

A) No existe un marco regulatorio claro: la mayor parte de los pa¨ªses carecen de legislaci¨®n espec¨ªfica, y ese es nuestro caso. Por ejemplo, en la LOPD y el RGPD no hay un apartado espec¨ªfico sobre tecnolog¨ªas de reconocimiento facial y, lo que es peor: no hay jurisprudencia. S¨ª hay, sin embargo, unas recomendaciones severas de la AEPD, que, entre otras cosas, recomiendan evitar el uso de tecnolog¨ªas biom¨¦tricas.

Los bancos amplios de preguntas que se seleccionan aleatoriamente son una herramienta efectiva contra el plagio.

B) El empleo de TVA puede suponer una violaci¨®n de los principios de necesidad y proporcionalidad. As¨ª, es preciso determinar que no hay otras medidas menos gravosas que puedan garantizar el mismo resultado o uno equivalente. Y las hay: un dise?o adecuado de los ex¨¢menes, por ejemplo, con bancos amplios de preguntas que se seleccionan aleatoriamente, es una herramienta efectiva contra el plagio.

C) Las TVA pueden violar el derecho a la privacidad. Evidentemente, la vigilancia durante un examen es l¨ªcita, pero el hecho de que una instituci¨®n educativa se dote de la capacidad de reconocer autom¨¢ticamente al alumnado plantea problemas de privacidad, como la imposibilidad de garantizar que no pueda ser vigilado en otros momentos (en su vida en el campus, por ejemplo).

D) Las TVA son naturalmente imprecisas y el software falible. Por ejemplo, muchos estudios han mostrado c¨®mo los algoritmos entrenados con datos sesgados en cuanto a raza tienen dificultades para identificar a personas racializadas, especialmente mujeres. ?Queremos cargar a colectivos ya desfavorecidos con un nuevo lastre, habiendo alternativas?

E) Las TVA pueden dar lugar a sesgos de automatizaci¨®n: est¨¢ demostrado que quienes hacen uso de estas tecnolog¨ªas tienden a asumir ciegamente que son infalibles, y esto puede dar lugar a decisiones muy equivocadas. ?Qu¨¦ pasa cuando las TVA se equivocan? ?Podemos asumir el calvario burocr¨¢tico que supone una decisi¨®n autom¨¢tica err¨®nea dada por buena porque ?la m¨¢quina lo hadicho??

F) Las TVA pueden producir discriminaciones y vulneraciones del principio de igualdad. Personas con poca formaci¨®n inform¨¢tica, mayores, con problemas de conexi¨®n, con dispositivos obsoletos, con dificultades derivadas de la pandemia: ?acceden todas por igual?

G) Las TVA pueden generar discriminaci¨®n por motivos de diversidad funcional. A¨²n si cumplen con la legislaci¨®n sobre accesibilidad, existen interrogantes sobre si se atienden los derechos de las personas con y sin discapacidad. Por ejemplo, las personas con discapacidad visual pueden tener problemas para tomar selfies, algo esencial para el uso de estas tecnolog¨ªas.

Nada impide que alguien tenga m¨¢s de un teclado y monitor conectados a su ordenador

Por ¨²ltimo, las TVA, pese a sus promesas, ni siquiera pueden garantizar la autor¨ªa ni la ausencia de utilizaci¨®n de medios fraudulentos en la realizaci¨®n de las pruebas online. Como nos han ense?ado los hackers, es muy dif¨ªcil concebir un sistema inform¨¢tico totalmente seguro. En este caso, nada impide que alguien tenga m¨¢s de un teclado y monitor conectados a su ordenador, por ejemplo, o que acceda mediante un sistema operativo virtual (ejecutado en una ventana, dejando libertad total para usar un navegador en otra, por ejemplo).

Son solo dos ejemplos de los muchos, muy imaginativos, que la comunidad viene contraponiendo a las TVA ¨²ltimamente. Y demuestran que estas tecnolog¨ªas no suponen la limpieza en la realizaci¨®n de los ex¨¢menes: no garantizan la imposibilidad de intervenci¨®n de terceras personas o la no utilizaci¨®n de materiales no permitidos.En conclusi¨®n, al plantear soluciones no presenciales para los ex¨¢menes, cualquier instituci¨®n educativa deber¨ªa regirse por el principio de precauci¨®n. Automatizar la supervisi¨®n de los ex¨¢menes mediante tecnolog¨ªas de vigilancia autom¨¢tica acarrea problemas jur¨ªdicos, ¨¦ticos y t¨¦cnicos que son, hoy por hoy, insoslayables.

Jos¨¦ L. Aznarte Mellado es profesor del departamento de Inteligencia Artificial de la UNED y vicerrector adjunto de gesti¨®n inteligente de datos. Juan Manuel Lacruz L¨®pez es profesor del departamento de Derecho Penal y Criminolog¨ªa de la UNED y vicerrector de grado y posgrado.

Siga EL PA?S EDUCACI?N en Twitter o Facebook

Ap¨²ntese a la Newsletter de Educaci¨®n de EL PA?S