La discriminación predictiva del Big Data

Todos estamos de acuerdo en que los avances tecnológicos que se vienen logrando en la sociedad de la información, y especialmente el Big Data, son clave para el funcionamiento del mundo hoy en día, que cuenta con muchas facilidades que hace unos años eran impensables .

Esta abundancia de datos puede convertirse en un arma de doble filo, sin embargo, como veremos a continuación, en ocasiones el mayor peligro reside en la interpretación y el uso que hacemos, o se hace por parte de las grandes empresas o instituciones de estos datos, para los que nosotros hemos consentido su acceso previamente, aceptando las conocidas políticas de privacidad, que normalmente aceptamos siquiera sin echar un vistazo.


Un claro riesgo es la finalidad con la que se interpretan los datos y la repercusión de esto sobre los individuos, como ocurre en la discriminación predictiva.

La discriminación predictiva es una técnica que se remonta a la minería de datos (“data mining”) que consiste, como indica INTECO, en encontrar información útil o patrones dentro de aquellos grandes volúmenes de información donde en apariencia no existe nada útil.

Con la evolución de los sistemas de información se ha podido aplicar el data mining de manera que no sea necesaria la intervención humana.  Esta nueva técnica se ha denominado discriminación predictiva y permite una velocidad de análisis y explotación de bases de datos,  tales que se puedan realizar predicciones totalmente automatizadas, facilitando todo el proceso desarrollado anteriormente en la minería de datos.
Algunos de sus usos positivos a destacar son aquellos que tienen como finalidad contribuir a la protección social, como la predicción de situaciones que puedan ser constitutivas de delitos o la prevención de accidentes gracias al análisis de fallos en los sistemas tecnológicos.

Sin embargo, del mismo modo que esta nueva técnica en concreto utilizarse con el fin de proteger a la sociedad, el uso abusivo de la misma sin las debidas garantías puede dar un poder inmenso poder a quien maneja la información, al poder controlar de manera más exhaustiva comportamientos, desplazamientos o actividades de los ciudadanos.

Este análisis predictivo se utiliza para tomar decisiones de manera algorítmica, sin la intervención humana como ya hemos explicado, afectando muchas veces de manera negativa a determinadas personas, por ejemplo, en el acceso a un puesto laboral.

Además, para evitar estas posibles discriminaciones debe existir siempre el derecho a una explicación.  Es decir, partiendo de que es posible que la tecnología acceda a informaciones sensibles y tome decisiones automáticas a partir de estas,  la persona perjudicada debe conocer como y porqué se ha tomado la decisión para poder oponerse o alegar lo que considere.

Debemos hacer uso de todas las ventajas que nos proporciona el Big Data pero también debemos ser conscientes de que esos mismos datos pueden afectarnos de manera negativa y debemos tener conocimientos, para en tal caso, actuar en consecuencia.