Читать книгу Inteligencia artificial y proceso penal - Raquel Borges Blázquez - Страница 5

Asistimos inevitablemente a una suerte de “desmaterialización del proceso judicial”. La tecnología pasa a estar al servicio de la función jurisdiccional, sin que ello pueda ser un riesgo para ella y su fin último: la aplicación de la Ley de la manera más justa y adecuada a los principios y valores de nuestro ordenamiento jurídico.

Este proceso lo encontramos acelerado en su afianzamiento en el marco de la inesperada crisis sanitaria y social del COVID-19, que ha puesto de manifiesto más si cabe la transcendencia de los aspectos digitales y de inteligencia artificial en los procesos judiciales. Hemos de adelantarnos, por tanto, a la reflexión sobre el impacto que van a tener estos términos tecnológicos en la Justicia. Celeridad, seguridad y eficiencia son criterios que integran la calidad de la justicia y estos tres sí pueden venir determinados positivamente por la tecnología, si se hace esta transformación cuidadosamente. Pero más importante que esto, es preguntarnos cómo queda afectada la calidad de la justicia, de las resoluciones judiciales que atienden a tutelar derechos de las personas.

La primera pregunta que surge al hilo es si la tecnología y la Inteligencia Artificial (en adelante, IA) puede mejorar la justicia y las garantías procesales. Para contestar a dicha cuestión, debemos abordar el derecho a la tutela judicial efectiva, así como los demás derechos y libertades fundamentales y las garantías procesales que las integran. En este sentido, encontramos un hilo conductor que esboza una hoja de ruta de mínimos comunes intocables en la aprobada “Carta Europea sobre el Uso ético de la Inteligencia Artificial en los asuntos judiciales y su entorno” en diciembre de 2018 por la Comisión Europea (CEPEJ 2018). Se trata de una primera aproximación, que requerirá de un desarrollo específico próximamente.

La fase en la que entramos supone una vuelta de tuerca. La desmaterialización de los procesos al darle un cuerpo digital no es solamente introducir la tecnología en el proceso, sino que se pretende que a través de la IA se dicten resoluciones judiciales de fondo, con eficacia de cosa juzgada, en su caso. No es simplemente una ayuda o complemento al juez, se trata de la potestad jurisdiccional, tal y como viene planteada en el estado social y democrático de derecho, pero sobre la base de un análisis masivo de datos. Es decir, la IA se está metiendo en la Justicia, es decir, en el ámbito de un derecho fundamental como el derecho de acceso a la justicia Y la IA se refiere a la función jurisdiccional y no al procedimiento, ese es el problema.

La pregunta es: ¿en qué puede mejorar la IA este derecho? ¿puede afectar a la estructura de poder que hay tras las diferentes desigualdades existentes, que son limitantes al acceso a la justicia y se encuentra tras la mayoría de los litigios civiles o penales? Contestar a esta pregunta no es nada sencillo. Haría falta probablemente un análisis sociológico de la justicia. El ordenamiento jurídico está lleno de estereotipos que alimentan la desigualdad de género, raza y clase, al igual que el propio proceso y procedimiento, heredados de legislaciones anteriores ajenas a estos problemas sociales. La judicatura tiene la obligación de superarlos al ejercer la función jurisdiccional, de conformidad con la Constitución Española. Pensemos, entonces, cómo vamos a asegurar este fino filtro a la encomienda que va a tener la IA en materia de justicia.

Todavía estamos en fase de necesitar inversiones y mejoras en la justicia tradicional, especialmente si hacemos una comparativa con los estados miembros y, sin embargo, debemos pensar en dar un salto al vacío, porque la sociedad desigualitaria sobre la que se construye este nuevo modelo de justicia sigue ahogada entre parcheos y remiendos. Una mayor calidad en la Justicia exige, no solo resolver el conflicto y la reparación de los daños del tipo que fueren, sino también mejorar la situación social de determinados colectivos y superar la desigualdad social de éstos en la estructura social. ¿Puede contribuir la IA en este sentido? No podemos correr el riesgo de crear un sucedáneo de justicia a la imagen y semejanza de los desequilibrios que tenemos ahora sino, muy al contrario, debe de ayudar a superarlos. La COVID-19 nos ha puesto de manifiesto las desigualdades de la sociedad, a las que no ha podido dar solución ni la justicia ni la sanidad. La tecnología e inteligencia artificial debe, pues, estar al servicio de la ciudadanía; no es tecnología por tecnología, renovar por renovar…El sentido debe de venir de la mano de la protección de los derechos de las personas y futuras generaciones.

Tenemos obligaciones como Estados, positivas y negativas, de garantizar el acceso a la justicia, de velar por los derechos de las minorías, de remover los obstáculos que impidan la igualdad… y los últimos acuerdos internacionales apuntan en esa dirección. Así acontece, por ejemplo, con el Convenio de Estambul suscrito por España el año 2014, donde se establece la responsabilidad de los Estados firmantes por la falta de diligencia exigible a la hora de realizar los cambios legales allí exigidos para cambiar la cultura de la desigualdad y el machismo y los sesgos de género, exigiendo la función jurisdiccional con perspectiva de género al igual que la función policial en la investigación de estos delitos contra la mujer. Este tratado internacional apunta en la misma dirección de la Carta Europea citada en materia de inteligencia artificial: el sesgo de género es un impedimento hacia la justicia e igualdad y prohibición de discriminación, constituyendo una obligación de los Estados eliminarlo para garantizar los derechos de la ciudadanía.

Antes de hacer la concreción y desarrollo de este modelo de justicia a través de la IA, debemos revisar las obligaciones positivas y negativas del Estado a la hora de garantizar el derecho de acceso a la justicia de todas las personas y, especialmente, de los colectivos discriminados y vulnerables tradicionalmente, debiendo de repensar en una estructura social de género en el acceso a la justicia. Necesitamos una justicia que proteja a todas las personas por igual, pero especialmente, que queden protegidos y con acceso a dicha justicia, los más débiles. Para la ONU el acceso a la justicia forma parte de la gobernabilidad democrática, la erradicación de la pobreza y el desarrollo humano sostenible. La IA del futuro deberá ser feminista e inclusiva de todas las realidades sociales, asegurando la tutela de sus derechos y el acceso a la justicia.

La justicia debe incorporar la ética del cuidado, para ser una justica igualitaria y ética, que incluya la perspectiva de género, porque la justicia, tal y como se presenta, parece aséptica y objetiva, con ausencia de cualquier elemento emocional, que incluya la visión de las mujeres, donde el elemento relacional entre las personas es clave y no la perspectiva individualista del propio derecho y funcionamiento de la justicia.

En este trabajo se hace un estudio exhaustivo sobre los problemas a los que va a tener que enfrontarse la justicia en próximo siglo. La IA busca acabar con las desigualdades, pero hemos de ser cautelosos porque los algoritmos pueden llegar a generar una desigualdad social y política sin precedentes invisibilizando sectores de la sociedad o extra visibilizando otros. La profesora Raquel Borges Blázquez analiza con rigor y profundidad uno de los mayores retos del proceso penal actual. El punto de mira no es el avance de la ciencia que seremos capaces de alcanzar, sino dónde pondrá el derecho el freno a estos avances.

La lectura de estas líneas nos hace ver lo lejos que estamos de conseguir el objetivo de la IA: una justicia rápida, limpia y sin sesgos. Pero también nos señala la hoja de ruta que debemos seguir si queremos una Inteligencia Artificial segura, democrática e igualitaria. Raquel ha conseguido poner sobre la mesa estas cuestiones tan difíciles y satisfactorias al mismo tiempo. ¿Cuál es el precio en la búsqueda de la verdad?, ¿Qué haremos cuándo un casco sea capaz de leer nuestros pensamientos?, ¿Qué será de los abogados, jueces y policías cuando una máquina arroje mejores resultados de investigación? Como indica la profesora Barona, no podemos quedarnos en la fase de aplicación de los algoritmos. Hemos de ir al paso previo y preguntarnos quién entrena a los algoritmos y con qué informaciones lo hace. Porque sus educadores pueden acabar controlando el pensamiento jurídico mundial.

PROMETEO 2018/111 Claves de la Justicia Civil y Penal en la Sociedad del miedo.

Elena Martínez García

Valencia, 8 de marzo de 2021.