Читать книгу Nuevas normatividades: Inteligencia Artificial, Derecho y Género - Rafael Fernández Acevedo - Страница 31

La opacidad algorítmica es muy relevante a la hora de probar la discriminación y, en particular, a la hora de determinar si los casos de discriminación directa pueden ser tratados como tales.

La discriminación directa es aquella que tiene lugar cuando una persona es tratada de manera menos favorable que otra en situación análoga por razón de su pertenencia a uno de los subgrupos contenidos en las categorías sospechosas. Es decir, por ejemplo, cuando a una mujer se la trata de manera menos favorable que a un hombre por el hecho de ser mujer.

Si bien es cierto que la prueba de la discriminación directa no requiere acreditar la intencionalidad de la parte demandada, sí que precisa demostrar que el criterio que se tuvo en cuenta a la hora de tomar la decisión discriminatoria fue la pertenencia al subgrupo específico dentro de la categoría sospechosa38.

Es por ello que la falta de acceso a un sistema algorítmico puede derivar en que no sea posible demostrar que concurre un supuesto de discriminación algorítmica directa. Es más, incluso si se tiene acceso al sistema, si este resulta tan incomprensible que no se pueden identificar con claridad las variables empleadas será complicado llegar a detectar si la categoría sospechosa se tiene en cuenta de manera explícita o no.

Es, por tanto, muy probable que muchos supuestos de discriminación algorítmica sean tratados como casos de discriminación indirecta que tiene lugar cuando una disposición, práctica o criterio aparentemente neutros pone a una persona en una situación de desventaja respecto de otras por razón de una de las categorías sospechosas.