Читать книгу Nuevas normatividades: Inteligencia Artificial, Derecho y Género - Rafael Fernández Acevedo - Страница 27

Una de las formas en las que se puede perpetuar la desventaja de determinados grupos es a través de su exclusión o inclusión consciente, sobre todo en el contexto de la publicidad dirigida.

Por ejemplo, Facebook es capaz de crear perfiles de sus usuarios en los que se incluyen datos como su pertenencia a determinada raza o su orientación sexual. Estos datos, en algunos casos pueden haberse especificado por las personas usuarias pero no son pocas las ocasiones en que dicha información es inferida de otros datos, como el tipo de música que escucha una persona. Esta herramienta permitió a Facebook ofrecer a aquellas personas que utilizasen su marketplace para vender o alquilar su vivienda la posibilidad de excluir de los anuncios de viviendas a personas en función de lo que la plataforma denominaba “afinidad étnica”17.

En otras ocasiones, la decisión tomada por seres humanos incluye a las personas pertenecientes a grupos en situación de vulnerabilidad con el objetivo de venderles, por ejemplo, productos financieros o servicios de baja calidad. En estas ocasiones el algoritmo se diseña para identificar a personas en situaciones o riesgo de exclusión social18.