¿Por que es hora de dejar de creer ciegamente en grandes volúmenes de datos

algoritmos decidir ahora que aprueban el préstamo, el seguro o que reciben una invitación para una entrevista, pero a menudo lo hacen de manera injusta. Y que sólo aumenta la brecha entre las capas de la población.

Katie O'Neill (Cathy O'Neil)

El matemático, en el análisis de los mercados financieros especialista, autor del libro "Armas de la derrota matemática."

Para construir un algoritmo, necesitamos dos cosas: datos (lo que ocurrió en el pasado) y la definición de un resultado exitoso (lo que quiere encontrar mediante el uso de este algoritmo). A continuación, determina los criterios que conducen a un resultado exitoso. Pero la definición de éxito no puede ser universal.

Algoritmo - Es la opinión de otra persona, el código incorporado.

Estamos acostumbrados a pensar que los algoritmos son objetiva y fiable, pero es sólo un truco de marketing diseñado para intimidarnos y hacernos confiar en algoritmos matemáticos y datos.

O'Neill cita ejemplos donde los algoritmos pueden causar daños graves. Esto sucede cuando la evaluación de los empleados. Por ejemplo, en 2011 en una escuela en el condado de Washington han sido despedidos más de 200 maestros conforme a sus

Además, los algoritmos son a menudo la razón para la eliminación de fallos sesgados. Noticias ProPublica organización llevó a cabo recientemente una investigación y fundarQue los algoritmos que determinan el riesgo de reincidencia, trabajan de manera objetiva. En los mismos delitos frases suele sacar a los americanos negros.

Todos estamos sujetos a sesgos, y los ponen en los algoritmos que deciden qué necesidades de datos a tener en cuenta.

Los algoritmos son simplemente repitiendo los errores del pasado, automatizar el orden existente. Así que no podemos confiar ciegamente en ellas, tenemos que probar a ser objetivo: volver a pensar la definición de un resultado exitoso, el error, no están asegurados por cualquier algoritmo. ¿Con qué frecuencia se producen y que se ve afectada? ¿Cuál es el costo de este tipo de errores?

Los profesionales que trabajan con los datos, no deben ser los árbitros de la justicia. Es tiempo de dejar de creer ciegamente grandes volúmenes de datos.