¿Se pondrán a prueba esas conclusiones o simplemente se usarán para justificar el statu quo y reforzar los prejuicios? Cuando pienso en la forma negligente y egoísta en que las empresas utilizan los datos, a menudo recuerdo la frenología, una pseudociencia que gozó de gran popularidad durante el siglo XIX. Los frenólogos pasaban los dedos por el cráneo del paciente, buscando protuberancias y hendiduras. Creían que cada una estaba relacionada con rasgos de personalidad presentes en veintisiete regiones del cerebro. Por lo general, la conclusión del frenólogo coincidía con sus observaciones. Si el paciente sufría de ansiedad mórbida o alcoholismo, la exploración craneal solía encontrar protuberancias y hendiduras que se correlacionaban con esa observación, lo que, a su vez, reforzaba la fe en la frenología. Este modelo se basaba en pseudociencia sin fundamento para hacer afirmaciones categóricas y, durante décadas, permaneció sin ser sometido a pruebas. El Big Data puede caer en la misma trampa. Modelos como los que pusieron en peligro a Kyle Behm y vetaron a estudiantes de medicina extranjeros y al Hospital St. George’s pueden excluir a la gente, incluso cuando la «ciencia» que contienen no es más que un conjunto de suposiciones no comprobadas.
– Cathy O’Neil –

¿Se pondrán a prueba esas conclusiones o simplemente se usarán para justificar el statu quo y reforzar los prejuicios? Cuando pienso en la forma negligente y egoísta en que las empresas utilizan los datos, a menudo recuerdo la frenología, una pseudociencia que gozó de gran popularidad durante el siglo XIX. Los frenólogos pasaban los dedos por el cráneo del paciente, buscando protuberancias y hendiduras. Creían que cada una estaba relacionada con rasgos de personalidad presentes en veintisiete regiones del cerebro. Por lo general, la conclusión del frenólogo coincidía con sus observaciones. Si el paciente sufría de ansiedad mórbida o alcoholismo, la exploración craneal solía encontrar protuberancias y hendiduras que se correlacionaban con esa observación, lo que, a su vez, reforzaba la fe en la frenología. Este modelo se basaba en pseudociencia sin fundamento para hacer afirmaciones categóricas y, durante décadas, permaneció sin ser sometido a pruebas. El Big Data puede caer en la misma trampa. Modelos como los que pusieron en peligro a Kyle Behm y vetaron a estudiantes de medicina extranjeros y al Hospital St. George’s pueden excluir a la gente, incluso cuando la «ciencia» que contienen no es más que un conjunto de suposiciones no comprobadas.

Armas de destrucción matemática: cómo el Big Data aumenta la desigualdad y amenaza la democracia.

© Licencia cedida a FraseaME. Licencia CC BY-NC 4.0

📲 Copia este código QR para compartir la frase dónde quieras