Читать книгу Nuevas normatividades: Inteligencia Artificial, Derecho y Género - Rafael Fernández Acevedo - Страница 22

El aumento en la capacidad computacional de los sistemas automatizados de toma de decisiones que, sobre todo, ha tenido lugar durante la última década, ha contribuido a aumentar la utilización de estos programas, también denominados de Inteligencia Artificial, en una gran variedad de procesos decisorios2.

Este creciente uso de sistemas algorítmicos de toma de decisiones en diferentes contextos ha traído consigo la constatación, especialmente en los últimos años, de las diferentes formas en que la automatización de procesos en los que se analiza predice el comportamiento humano, puede contribuir y, de hecho, contribuye, a perpetuar las situaciones de desigualdad sufridas por las personas pertenecientes a grupos y colectivos históricamente desaventajados3.

El presente trabajo establece las formas en las que los sistemas algorítmicos pueden contener sesgos que generan situaciones de discriminación o que reproducen determinados estereotipos que perjudican a las personas pertenecientes a grupos históricamente desaventajados para, a continuación, analizar los instrumentos jurídicos que actualmente pueden emplearse para dar respuesta a las situaciones de discriminación algorítmica. Finalmente, se realizan algunas propuestas tendentes a mejorar las herramientas jurídicas existentes dirigidas a prevenir y lidiar con las situaciones de discriminación algorítmica y perpetuación de la desigualdad mediada por algoritmos.

Este capítulo se centra fundamentalmente en la aplicación del marco jurídico europeo en materia de igualdad y no discriminación a los supuestos de discriminación algorítmica dado que los efectos del creciente uso de sistemas automatizados se dan a nivel supranacional. Asimismo, cabe también destacar que las principales respuestas jurídicas a los riesgos generados por las herramientas algorítmicas se están dando y están llamadas a darse en el ámbito de la UE4.