Читать книгу Nuevas dinámicas del derecho procesal - Julián García Ramírez - Страница 12

Al margen de todas las oportunidades que ofrecen los sistemas de inteligencia artificial, lo cierto es que no están libres de limitaciones. Un aspecto que interesa especialmente en el ámbito del derecho son los problemas derivados de los sesgos (biases) de las aplicaciones de inteligencia artificial, que han sido objeto de profundo análisis desde el campo de la informática y la ciencia computacional.

Se han detectado, en primer lugar, disfunciones relacionadas con la configuración de los algoritmos. En este proceso, los programadores deben decidir cuáles son aquellas variables en las que basarán sus algoritmos. Por ejemplo, en la elaboración de un algoritmo para el proceso de selección de una universidad se debe decidir a qué méritos se dará importancia o si algunos méritos obtendrán una ponderación mayor que otros. Se puede decidir, por tanto, que se seleccionará a personas con una calificación académica determinada, que presenten un mayor número de cartas de recomendación, acrediten nivel de idiomas o que hayan realizado algún tipo de acción social. De la correcta elaboración del algoritmo y la adecuada selección de las variables dependerá que los resultados arrojados sean los más cercanos al objetivo buscado. Pues bien, en la selección de estos datos pueden existir sesgos discriminatorios, como los que se han detectado en algunas aplicaciones usadas para la predicción del riesgo de reincidencia de algunos delincuentes, que otorgaban un porcentaje diferente en función de la clase social o la raza (Tolan et al., 2019).

También se han detectado sesgos históricos provocados por tomar en consideración premisas basadas en sucesos pasados interpretados erróneamente, con lo cual se perpetúa una tendencia fundamentada en presupuestos falsos. También se ha alertado el riesgo de usar, para la determinación de algunas variables, categorías de datos que, pese a no ser las óptimas ni las más representativas, son las más fáciles de conseguir por los sistemas de inteligencia artificial. Se produce, entonces, una simplificación de la realidad que podría conducir a resultados poco rigurosos (Roselli, Matthews y Talagala, 2019).

Una segunda problemática está vinculada con la calidad de la información al alcance de dichos sistemas. Es fundamental que los datos se actualicen constantemente porque la caducidad de la información utilizada o de una parte de ella supondría el desfase de los resultados. Asimismo, se ha advertido del peligro de trabajar con datos susceptibles de manipulación o ambiguos y se ha puesto de relieve que los sistemas de machine learning o aprendizaje automático tienden a establecer con frecuencia correlaciones y generalizaciones desviadas que se deben redirigir mediante mecanismos de corrección de los resultados (Roselli et al., 2019).