El juramento hipocr¨¢tico de los cient¨ªficos de datos

En su m¨¢s que recomendable libro Armas de destrucci¨®n matem¨¢tica. C¨®mo el ¡®big data¡¯ aumenta la desigualdad y amenaza la democracia, Cathy O¡¯Neil expone los motivos que nos deben hacer temer la forma en que se usan los algoritmos. La matem¨¢tica y activista subraya que los modelos no son malos per s¨¦: detr¨¢s de cada uno de ellos hay uno o varios autores que, de forma m¨¢s o menos premeditadas, habr¨¢n desarrollado un algoritmo que pueda castigar a las personas.

¡°Los algoritmos no son m¨¢s que opiniones encerradas en matem¨¢ticas¡±, escribe la autora. Y lo demuestra revisando c¨®mo se est¨¢n empleando los algoritmos en la actualidad en campos tan diversos como la universidad (estimando las probabilidades de que los futuros alumnos puedan pagar la matr¨ªcula), en la publicidad (excluyendo a los usuarios con menos ingresos de anuncios de productos que quiz¨¢s les puedan interesar pero que probablemente no puedan pagar) o en banca (calculando la solvencia de las personas para ofrecerles un tipo de inter¨¦s nivelado a su nivel estimado de riesgo).

M¨¢s informaci¨®n

En realidad, ?qu¨¦ [...] es exactamente un algoritmo?

Los algoritmos tienen prejuicios: ellos son inform¨¢ticos y ellas, amas de casa

Hacia el final del libro, O¡¯Neil habla de un juramento hipocr¨¢tico que deber¨ªan suscribir todos los programadores de este tipo de modelos. Lo toma prestado del que redactaron en 2008, tras la crisis financiera, los ingenieros Emanuel Derman y Paul Wilmott.

Dice as¨ª:

• Recordar¨¦ que no he creado el mundo, y que este no satisface mis ecuaciones
• Aunque emplee audazmente modelos para estimar valor, no me dejar¨¦ impresionar excesivamente por las matem¨¢ticas
• Nunca sacrificar¨¦ la realidad por elegancia sin explicar por qu¨¦ lo he hecho
• Tampoco proporcionar¨¦ a quienes usen mis modelos una falsa sensaci¨®n de seguridad sobre su precisi¨®n, sino que har¨¦ expl¨ªcitos supuestos y omisiones
• Reconozco que mi trabajo puede tener enormes efectos sobre la sociedad y la econom¨ªa, muchos de ellos m¨¢s all¨¢ de mi comprensi¨®n

¡°Se trata de una buena base filos¨®fica¡±, dice O¡¯Neil, ¡°pero la autorregulaci¨®n y unos valores s¨®lidos solo contendr¨¢n a los escrupulosos¡±, advierte.