Armas de Destrucción de Matemáticas: Cómo los Grandes Datos Aumentan la Desigualdad y Amenaza a la Democracia- Cathy O'Neil

Una antigua muestra de Wall Street suena a una alarma sobre el modelado matemático, una nueva fuerza omnipresente en la sociedad que amenaza con socavar la democracia y ampliar la desigualdad. Vivimos en la edad del algoritmo. Cada vez más, las decisiones que afectan nuestras vidas -donde vamos a la escuela, ya sea que obtengamos un préstamo de coche, cuánto pagamos por el seguro de salud- están siendo hechas no por humanos, sino por modelos matemáticos. En teoría, esto debería conducir a una mayor justicia: Todo el mundo es juzgado de acuerdo con las mismas reglas, y el sesgo se elimina. Pero como Cathy ONeil revela en este sorprendente libro, lo contrario es cierto. Los modelos que se utilizan hoy en día son opacos, no regulados, e incontestable, incluso cuando están equivocados. Lo más preocupante es que refuerzan la discriminación: si un estudiante pobre no puede obtener un préstamo porque un modelo de préstamo lo considera demasiado arriesgado (en virtud de su raza o vecindario), entonces es cortado del tipo de educación que podría sacarlo de Pobreza y una espiral viciosa. Los modelos apuntalan a los afortunados y castigan a los oprimidos, creando un "cóctel tóxico para la democracia". Bienvenidos al lado oscuro de Big Data. Trazando el arco de la vida de una persona, de la universidad al retiro, ONeil expone los modelos de la caja negra que dan forma a nuestro futuro, como individuos y como sociedad. Los modelos que anotan a los maestros y estudiantes, clasifican los currículos, conceden (o niegan) préstamos, evalúan a los trabajadores, apuntan a los votantes, establecen la libertad condicional y supervisan nuestra salud. No describen simplemente la realidad, como afirman los proponentes, cambian la realidad, expandiendo o limitando las oportunidades que tienen las personas. ONeil pide a los modeladores que tomen más responsabilidad sobre cómo se están utilizando sus algoritmos. Pero al final, depende de nosotros hacernos más astutos sobre los modelos que rigen nuestras vidas. Este importante libro nos capacita para hacer preguntas difíciles, descubrir la verdad y exigir el cambio.