Читать книгу El impacto de las tecnologías disruptivas en el derecho procesal - Federico Bueno de Mata - Страница 6

El avance imparable de la IA en todos los ámbitos de la sociedad hace que nos replanteemos la necesidad de afrontar una regulación inminente de este tipo de tecnología. Actualmente, podemos calificar este tema a nivel judicial como una materia que está de moda a nivel doctrinal, sobre la que muchos autores dan opiniones muy fructíferas acerca del devenir incierto acerca del impacto futuro sobre algunos trabajos y administraciones públicas.

Concretamente, nos encontramos en un plano en el que la evolución de la IA avanza a pasos agigantados, y su permeabilidad en distintos servicios públicos está creciendo de manera paulatina. En muchas ocasiones no nos damos cuenta del avance de este tipo de tecnología al tenerla prácticamente interiorizada en nuestros quehaceres digitales diarios. Cedemos datos sin darnos cuenta, con lo que fomentamos la nutrición de programas inteligentes sin ser conscientes de ello.

Uno de los debates cada vez menos distópicos en realización al uso de este tipo de tecnología sobre el sistema de justicia es si la IA nos va a ayudar a complementar la labor de los operadores jurídicos o incluso podría llegar a sustituir a alguno de ellos. Esta segunda parte hace que exista un grado de alarmismo, en ocasiones infundado, sobre las consecuencias que incorporar la IA tendría en la Administración de Justicia. No podemos reducir una profesión humanista como es el ejercicio, la interpretación y la aplicación del derecho a una mera operación matemática, pero si podemos hacer que dichas actividades adquieran nuevas dimensiones si incorporamos herramientas que agilicen o asesoren a la hora de tomar ciertas decisiones o automatizar determinados procedimientos de trámite que no tienen impacto sobre el fondo del asunto y que únicamente generan dilaciones indebidas.

Partimos además de tecnologías incompletas, ya que las mismas se nutren a través de datos que nunca llegan a estar plenamente actualizados, lo que nos lleva a una situación de sesgo inevitable2 a la hora de aplicarlos y de la propuesta de decisión que nos puedan dar. Es decir, a día de hoy, no tenemos un patrimonio digital completo a nivel judicial. No todas las sentencias de todas las instancias y todos los órdenes están digitalizados, ni todas ellas figuran en las bases de datos de estos programas. Las que se produzcan mañana ni pasado mañana se volcarán de forma automática en estos sistemas ni tampoco podremos incorporar la oscilación jurisprudencial dada en algunas materias, si se reinterpreta socialmente la aplicación de alguna norma. Todas estas cuestiones, unido a que las labores de automatización digital están en pleno avance, pero no así la tecnología machine learning, nos sitúa en un estadio de inseguridad jurídica evidente cada vez mayor.

Este aprendizaje podemos entenderlo como un subcampo de Inteligencia Artificial consistente en el uso de algoritmos o fórmulas con el objetivo de lograr que un equipo computacional, compuesto de la combinación de hardware y software, pueda proponer soluciones y resultados a ciertos problemas señalados por un programador; particularmente a través algoritmos y de la entrega de información o de datos, para la toma de decisiones. El sistema algorítmico consiste en detectar patrones en los datos que le han sido suministrados y de esa forma entregar un resultado satisfactorio al problema planteado vía un método predictivo basado en correlaciones estadísticas. A mayor cantidad de información (datos), mayor y mejores resultados se van obteniendo ya que el sistema se alimenta de ellos, para la toma de decisiones. La particularidad es que el sistema además aprende por sí mismo, cuestión que está por asegurar hoy en día a nivel europeo y nacional. Además, este tipo de tecnología se divide en aquella de aprendizaje supervisado, respecto de la de aprendizaje no supervisado, la cual varían principalmente en la interacción humana que es requerida para su desarrollo, siendo la de aprendizaje supervisado en que un ser humano debe entrenar al programa con el objeto de que la máquina obtenga el resultado deseado. Todo ello hace que el debate dependa del desarrollo de este tipo de tecnología.

Otro tipo de machine learning, pero no del tipo automático, que analizaremos es el Rule-based Programmes, denominados “algoritmos de aprendizaje basado en reglas” donde un programador elabora una serie de reglas similares a los silogismos y que de denominan “base de conocimiento”, silogismos que la máquina con el objeto de que realice inferencias lógicas para dar respuesta a un asunto sometido a su resolución. La principal diferencia entre algoritmo basado en reglas de otro basado en aprendizaje automático, es que mientras que en el primero es el programador el que ingresa las reglas para obtener un resultado, en un proceso de guía paso a paso, en los sistemas de aprendizaje automático, es el propio algoritmo el que va experimentando autónomamente cuál es la mejor forma de resolver el problema planteado, análisis que realiza a través del estudio de datos proporcionados, los cuales le han otorgado patrones para dar solución a la cuestión planteada. A mayor cantidad de datos de buena calidad entregados y sin la necesidad de tener que guiarlo o de proveer de reglas para poder alcanzar el objetivo. El problema de este tipo de inteligencia artificial es la incapacidad de explicar y poder comprender por el ser humano el proceso de análisis de datos, ensayo error y definición de solución que realiza la máquina. Al no ser racionalmente explicables se crea una especie de caja negra3, que la hace profundamente cuestionable y difícilmente regulable de manera globalizada. En este sentido, dice al DRAE que la IA es la disciplina científica que se ocupa de crear programas informáticos que se ejecutan operaciones comparables a las que realiza la mente humana, como el aprendizaje o el razonamiento lógico, pero creemos que este planteamiento a día de hoy es discutible en cuanto a lo primero de ello, lo que condiciona también nuestra visión sobre las posibilidades de aplicación real en el proceso.

Esto además hace que tampoco veamos asentado hoy en día el Deep Learning o aprendizaje profundo de las máquinas, como subtipo de Machine Learning que utiliza Redes Neuronales Artificiales (RNA) compuestas por unidades de procesamiento simple llamadas neuronas artificiales, ordenadas en capas interconectadas entre sí, inspirándose así en la estructura neuronal del cerebro humano. Esta forma de aprender no está demostrada a nivel judicial y hace que nuestra visión sea distinta en la actualidad, pero pensemos lo que llegaríamos a conseguir en un futuro. Además, a todo ello se le suma el debate sobre el tema de sesgos discriminatorios basado en lo anteriormente apuntado, ya que no todo se encuentra digitalizado, y ese “alimento” de las máquinas nunca llegue a tener una perspectiva completa.

Además, nos encontramos ante una especie de contradicción en este plano, pues contamos con un compendio de informes y normativas, todas ellas de softlaw, que nos sitúa ante una suerte de hiperregulación de la materia. No solo es un tema de moda a nivel doctrinal, sino que también el legislador nos inunda con informes, guías de buenas prácticas, posibles impactos, reglas éticas, principios informadores etc. Todos estos avances, producidos de manera incesante a lo largo de los últimos hace cinco años, nos lleva a una situación de mareo legislativo que nadie llega a asimilar y que, hasta el momento, no se ha conseguido centrar de manera conveniente, legislativamente hablando.

Podríamos invocar dos expresiones coloquiales confrontadas: “¿quién le pone el cascabel al gato?, ¿se pueden poner puertas al campo?”. Estos interrogantes nos llevan a plantearnos si sería conveniente normativizar esta situación de manera exhaustiva o si por el contrario, lo ideal en esta situación es decantarnos por una autorregulación del sistema. Creemos sinceramente que la segunda opción puede llegar a ser perversa y peligrosa para el sistema judicial, debido a que la situación en cuanto al desarrollo de la IA es imparable, y su choque contra los derechos fundamentales de los justiciables cada vez es más palpable.

Surge así la necesidad de regular el desarrollo de la IA, cuestión que ya se ha convertido en una realidad palpable en la UE y que también empieza a vislumbrase en España. A continuación, haremos un recorrido por las diferentes iniciativas legislativa, tanto europeas como nacionales, que pretenden dar cobertura a la IA en los próximos años.