Читать книгу Nuevas normatividades: Inteligencia Artificial, Derecho y Género - Rafael Fernández Acevedo - Страница 30

Uno de los principales problemas que se han planteado respecto a la creciente implantación de sistemas algorítmicos en todo tipo de procesos de toma de decisiones y, en particular, en el sector público, es el hecho de que funcionan como cajas negras35. La opacidad algorítmica puede derivarse de la complejidad del sistema o de la protección de intereses contrapuestos, como los derechos de propiedad intelectual36.

Asimismo, la opacidad de los sistemas algorítmicos se encuentra también en su propia utilización. Es decir, en muchas ocasiones, las personas que están siendo analizadas y sometidas a procesos de decisión automatizados no son conscientes de esta realidad, lo cual merma de manera muy significativa las posibilidades que tienen de detectar y defenderse frente a supuestos de discriminación algorítmica37.