«Armas de Destrucción Matemática»: por una ciencia de datos ética y responsable
Fernando Bonete | 07 de febrero de 2019
La matemática Cathy O’Neil advierte en Armas de Destrucción Matemática acerca de los peligros que un planteamiento irresponsable del big data puede acarrear a las personas. Un libro necesario para abordar la ciencia desde una perspectiva ética.
Cultura
La matemática estadounidense Cathy O’Neil tiene tanto talento y currículum de sobra: un doctorado en Matemáticas por Harvard, un posdoctorado en el departamento de Matemáticas del Massachusetts Institute of Technology (MIT), profesora del Barnard College, investigadora en geometría algebraica aritmética… con ese expediente académico e investigador, “podría haberse dedicado a lo que quisiera”, expresión que en el mundo actual suele traducirse por “colocarse bien en una gran compañía y ganar dinero a espuertas”.
O’Neil tuvo oportunidad de probar ese estilo de vida durante sus primeras experiencias laborales, trabajando como analista para el fondo de cobertura D. E. Shaw; más tarde, para RiskMetrics, compañía de software de riesgo para fondos de cobertura y bancos. Pero entonces, y durante la crisis financiera, lo vio claro, “tuvo un desencanto”, que dicen: tras los números, las estadísticas, los algoritmos… hay personas.
Y de esta revelación, a la que, por desgracia, no todos los genios, pensadores e intelectuales tienen acceso (más bien no quieren verlo), surgió el libro que nos ocupa y su título. Los sistemas y máquinas que no tienen en cuenta la casuística de las personas o, lo que es lo mismo, no están proyectados hacia el bien por sus creadores, son Armas de Destrucción Matemática (ADM).
Primero, las personas
Para seguirle el ritmo al mundo complejo y volátil que nos presenta la globalización, la gestión de las instituciones y el crecimiento empresarial dependen, cada vez en mayor medida, de la generación y tratamiento de grandes masas de datos por parte de máquinas. Una orientación negativa de estas máquinas como resultado de una estrategia de datos sesgada, injusta o irresponsable tiene consecuencias directas para las personas. Y esta es una de las principales virtudes del libro: su rotundidad a la hora de advertir que toda ciencia, también la nueva ciencia de datos y su praxis, debe atender a unas directrices éticas que sitúen al ser humano por encima de cualquier otra consideración.
Otro acierto de Cathy O’Neil reside en ubicar el análisis de la cuestión y su reflexión en el presente. Primero, porque todo aquello que tiene que ver con la adivinación en el desarrollo tecnológico y la presentación de mundos apocalípticos futuros es pura especulación. Segundo, porque los sistemas informáticos para la gestión del big data ya ofrecen en la actualidad suficientes casos de estudio como para ponernos en alerta de su aplicación dudosa en diversos frentes: el sistema de predicción del crimen como símbolo de desigualdad social, el análisis del perfil como factor de decisión para una condena, los ránquines de valoración de universidades y la perversión de sus fines orientados al saber, la predicción de compras orientadas a fomentar vicios en el comportamiento del usuario…
O’Neil aborda con criticismo todas estas Armas de Destrucción Matemática, realizaciones fraudulentas del análisis de datos que tienen consecuencias directas para las variables que integran el sistema, fomentan la desigualdad y pervierten la naturaleza de nuestro mundo. De su mejora depende, cada vez en mayor medida, nuestro bienestar. Un libro necesario, por escapar del mero plano técnico desde el que se suele abordar la temática, y poner en el radar de la ética y la conciencia colectiva la ciencia de datos.
