Читать книгу Nuevas normatividades: Inteligencia Artificial, Derecho y Género - Rafael Fernández Acevedo - Страница 38

En este sentido, debería establecerse, por ejemplo, la posibilidad de experimentar con el sistema, de forma que se puedan introducir diferentes perfiles en el algoritmo para comprobar si realmente discrimina por alguno de los motivos sospechados56. Dichas propuestas suelen incluir obligar a los controladores a proporcionar cierta información sobre la forma en que está diseñado el algoritmo, incluyendo los datos de entrenamiento, los datos de prueba y cómo se definen las diferentes etiquetas y la variable objetivo. Al proporcionar esta información y el programa real, los demandantes podrían experimentar con el sistema para determinar los efectos que la pertenencia a un grupo desaventajado tiene en los resultados, estableciendo así comparadores hipotéticos mediante la experimentación con el sistema. Para que este sistema funcione en algoritmos que siguen evolucionando después de haber sido desplegados, será necesario que se guarde cada versión del programa informático utilizado en los procesos de toma de decisiones.