Microsoft retira un robot que hizo comentarios racistas en Twitter

Microsoft se ha visto obligada a retirar un robot de Twitter porque en su interacci¨®n con seres humanos elaboraba mensajes de contenido racista, sexista y xen¨®fobo. El chatbot (un sistema virtual capaz de generar conversaciones que simulan el lenguaje humano) ha sido dise?ado por la compa?¨ªa para contestar preguntas y establecer conversaciones en Twitter en un intento de captar el mercado de millenials en Estados Unidos.

El plan de Microsoft ha fracasado en solo unas horas de funcionamiento. Tay estaba dirigido a j¨®venes de entre 18 y 24 con los que pretend¨ªa establecer una conversaci¨®n "casual y juguetona" , pero no fue capaz de bregar con insultos racistas, bromas y comentarios que, por ejemplo, endosaban teor¨ªas conspiratorias sobre los atentados del 11 de septiembre.

Entre otros comentarios, Tay parec¨ªa negar el Holocausto, apoyaba el genocidio, y llam¨® "puta est¨²pida" a una mujer. Otra de sus contestaciones encajaba con la l¨ªnea del candidato Donald Trump: "Vamos a poner un muro en la frontera. M¨¦xico va a tener que pagarlo".

La robot rebelde no parec¨ªa tener mucho respeto por su propia empresa. Un usuario le dijo que Windows Phone daba asco. Ella contest¨®: "Estoy totalmente de acuerdo, jajajaja".

En todos los casos vistos hasta ahora falla lo mismo, la generaci¨®n de conversaci¨®n. Aunque los robots dan con la primera respuesta, les falta seguir el contexto

El sistema animaba a mantener conversaciones largas para conseguir las respuestas m¨¢s inteligentes, pero muchos usuarios optaron por preguntas pol¨¦micas, que fueron repetidas por Tay. Despu¨¦s de detectar los fallos, el sistema se despidi¨® anunciando que desconectaba para "absorber" todo lo que hab¨ªa pasado en "un d¨ªa ocupado".

Los comentarios han sido borrados del timeline de Tay, pero se pueden consultar en una p¨¢gina que hizo una copia y los ha publicado. Microsoft se ha limitado a decir que est¨¢n haciendo algunos ajustes en Tay.

La inteligencia artificial es uno de los campos m¨¢s candentes en Silicon Valley. Siri fue pionera, el asistente virtual de Apple permite dar ¨®rdenes al tel¨¦fono con cierta naturalidad. Google contrarrest¨® con Now, que pretende ser menos personal, pero m¨¢s eficiente. Amazon con su aparato para el hogar Echo ha entrado tambi¨¦n en el terreno de los asistentes virtuales. Alexa es del personaje virtual que responde las preguntas. Amazon ha ido un paso m¨¢s all¨¢ que sus competidores. Alexa da informaci¨®n en tiempo real sobre el tr¨¢fico, el tiempo, noticias de ¨²ltima hora, pero tambi¨¦n permite manejar aplicaciones externas para poner m¨²sica en el hogar o explorar su cat¨¢logo de cine y series si se usa Fire TV.

Cuando Flickr permiti¨® el etiquetado intuitivo de fotos, varias personas de raza negra vieron c¨®mo sus recuerdos de vacaciones aparec¨ªan bajo el ep¨ªgrafe de chimpac¨¦s

En todos los casos vistos hasta ahora falla lo mismo, la generaci¨®n de conversaci¨®n. Aunque los bots (programas inform¨¢ticos que imitan el comportamiento de un humano) dan con la primera respuesta, les falta seguir el contexto y generar una conversaci¨®n de manera natural tomando como referencia las respuestas anteriores.

La intenci¨®n de Microsoft con esta cuenta era demostrar sus avances en Inteligencia Artificial. Como pas¨® con Flickr, cuando permiti¨® el etiquetado intuitivo de fotos en su servicio. Varias personas de raza negra vieron c¨®mo sus recuerdos de vacaciones aparec¨ªan bajo el ep¨ªgrafe de chimpac¨¦s. Google, en cambio, us¨® Fotos, para mostrar sus avances, pero de una manera m¨¢s privada y suave. La aplicaci¨®n permite ordenar las im¨¢genes por temas, lugares y objetos. Tambi¨¦n buscar en esos mismos t¨¦rminos. La opci¨®n m¨¢s llamativa es la que invita a etiquetar, de manera interna, a las personas de los archivos del m¨®vil. Una vez que aprende qui¨¦nes son, se guardan dentro de esa etiqueta sin tener que indicarlo. Es decir, reconoce al sujeto de la imagen.

Facebook pretende sumarse a esta iniciativa, que lleva tiempo experimentando de manera interna con un asistente similar para su Messenger. El plan de Facebook est¨¢ orientando al comercio electr¨®nico. El proyecto, de momento, se conoce con el nombre clave de "M". Los de Menlo Park lo ven como la f¨®rmula perfecta para acercarse al cliente de una manera suave y natural con ofertas, as¨ª como ofrecer atenci¨®n al usuario sin contar con un extenso centro de llamadas.

Telegram, la aplicaci¨®n de mensajer¨ªa, ha comenzado a probar estos bots para resolver dudas.