Читать книгу Inteligencia artificial, Derechos Humanos y bienes jurídicos - Javier Valls Prieto - Страница 4

En 2012 empecé a estudiar el análisis de datos masivos para la prevención del crimen. Por decirlo de alguna manera, el inicio de lo que en la actualidad se denomina la moderna inteligencia artificial. Entre medias, se adoptó el término de Big Data que derivó en la nueva popularización el término de nuestro estudio. En esos momentos el principal impacto de los sistemas inteligentes (sistemas de software o hardware que toma sus decisiones con algún sistema de inteligencia artificial) en los derechos fundamentales era, principalmente, a la privacidad. Sin embargo, hoy día el impacto en los derechos fundamentales es mucho más extenso y ha superado los primeros acercamientos jurídicos a esta tecnología.

Con la iniciativa, en 2018, de la Comisión Europea para la creación las guías éticas del alto grupo de expertos en inteligencia artificial, en el que uno de los pilares de la creación de inteligencia artificial es el respeto de los derechos humanos, se ha fomentado el diseño de sistemas inteligentes basado en los humanos y en el respeto a sus derechos. Sin embargo, la investigación en este tema, hoy día, es bastante escasa.

El concepto de inteligencia artificial surge en los años cincuenta del siglo XX y ha pasado por diferentes fases de parálisis que se han denominado como inviernos. Actualmente estamos viviendo una nueva era dorada gracias al desarrollo experimentado en este campo de la computación en la última década, basado principalmente en el avance del procesamiento de datos masivos. El abaratamiento de los sistemas de almacenamiento y los avances en la capacidad de procesamiento han producido una revolución en la utilización de esta tecnología en tareas que realizan normalmente humanos con el objetivo principal de mejorar las tareas que desempeñan estos.

El desarrollo de estos sistemas inteligentes ha sido tan importante desde el punto de vista económico que se ha generalizado su utilización en multitud de diferentes aspectos de la vida, desde medicina hasta finanzas, desde la seguridad a los sistemas de distribución de energía, del sector privado a la administración pública. Esta utilización ha generado algunos problemas que han derivado en la afectación a determinados derechos fundamentales de los ciudadanos. Sin embargo, hay que resaltar que su impacto en ellos no es sólo negativo sino que también ha sido positivo.

Desde este enfoque y siendo conscientes del alcance de la utilización de la inteligencia artificial, el grupo de altos expertos en inteligencia artificial de la Unión Europea han realizado unas directrices éticas en las que se centran en el respeto de los derechos humanos y con un enfoque antropocéntrico del desarrollo de la inteligencia artificial. Es impacto de este documento ha sido tal que las guías éticas para el desarrollo de esta tecnología que se han desarrollado después han incluido todas, incluso la de China, este enfoque garantista centrado en el respeto a los derechos humanos.

Poco después la Comisión Europea sacó el Libro Blanco sobre inteligencia artificial que, aunque se centra más en la estratégica europea en inteligencia artificial (áreas de especial interés, colaboración público/privada y desarrollo económico), sigue exigiendo este enfoque de respeto y diseño basado en los derechos humanos.

La asimilación por parte de los operadores jurídicos de esta inquietud sobre cómo va a afectar al sistema democrático es un reto transcendental en el desarrollo de la inteligencia artificial y de la protección de los derechos fundamentales tal y como los entendemos hoy día. Las guías éticas a nivel internacional han descrito unos principios éticos que se están imponiendo como un estándar a nivel mundial dentro del gobierno de la inteligencia artificial y de la industria, tomando como centro de actuación los mismos principios que las guías del grupo de altos expertos de la Unión Europeo. Estos principios comunes nos van a servir de base en esta investigación para limitar los derechos fundamentales que se van a ver afectados y, a su vez, nos va a ser útil para delimitar qué bienes jurídicos van a poder ser protegidos por el derecho penal.

El primer gran reto de esta obra es la determinar una definición de inteligencia artificial que sirva a la ciencia jurídica para entender cuál es el objeto sobre el qué se tiene que tomar una decisión jurídica y para marcar el contorno de actuación de su regulación. No es tarea fácil porque no existe una definición uniforme de este campo de conocimiento ya que ni los propios ingenieros son capaces de determinar un concepto claro y definido, y porque ese concepto hay que trasladarlo al mundo del derecho para poder ser analizado desde una perspectiva de impacto en los derechos. Con el fin de establecer el marco de actuación dedicamos el primer capítulo de esta obra justo a intentar establecer una definición base que permita a los juristas tener un punto de partida sobre el que poder trabajar en un futuro y, para nuestra tarea, poder delimitar el impacto en los derechos fundamentales.

Estos constituyen los pilares sobre los que se establece la vida en sociedad de las personas en un sistema democrático y, como hemos señalado y se va a estudiar, se ven afectados por la utilización de los sistemas inteligentes. Esta afectación puede ser positiva, positiva/negativa y negativa. Por ejemplo, en el sistema de justicia nos encontramos con problemas que, en el día a día, afectan a los derechos procesales de los ciudadanos. Así, es difícil tener una tutela judicial efectiva con un sistema lento de resolución de litigios y con un acceso al mismo extremadamente caro. Al mismo tiempo, los jueces aun siendo imparciales pueden tener prejuicios a la hora de dictar sentencia lo cual puede producir fallos con un determinado sesgo, incumpliendo con el principio de igualdad. Esta carencia de imparcialidad puede encontrar solución con la utilización de sistemas inteligentes ya que la máquina no tiene sentimientos que determinan una animadversión o sesgo sobre una determinada persona o sesgo. Pero, sin embargo, con la utilización de sistemas inteligentes pueden surgir otras cuestiones como la lesión del derecho a la igualdad por falta de datos del sujeto en el sistema o, por el contrario, por un exceso de datos. Sesgos por cuestiones de raza, sexo o situación económica pueden surgir también con la utilización de estas herramientas tecnológicas en el sistema judicial. En la otra cara de la moneda, puede tener efectos positivos ya que crea un sistema más rápido a la hora de dictar sentencias e incluso abaratar los costes del proceso judicial tanto para los ciudadanos que acceden a él como para la administración. Es por ello que dedicamos el segundo capítulo del libro a ver diferentes casos de aplicación de sistemas inteligentes y cuáles han sido los resultados obtenidos para hacernos con una imagen real de en qué sectores y qué problemas vamos a enfrentarnos con su utilización.

Las instituciones públicas y privadas conscientes de los problemas que se han presentado con el uso de la inteligencia artificial han desarrollado multitud de códigos éticos y de buenas prácticas desde los comités éticos europeos, las asociaciones de ingenieros, los países o las universidades. Con el fin de determinar cuáles es el común denominador de los principios se han analizado los diez documentos sobre ética e inteligencia artificial más importantes del último quinquenio para analizar cuáles son los principios más relevantes y cuáles son los comunes a todas estas regulaciones. Por supuesto, hay muchos más pero tienen menos impacto o son de carácter más local. Estos principios nos van a servir de base para el siguiente análisis de nuestro trabajo: cuáles son los derechos humanos relacionados con estos principios, lo que nos va a permitir determinar el marco sobre el que empezar nuestro análisis.

La normativa internacional sobre derechos humanos es bastante amplia con varias declaraciones internacionales y regionales. En nuestro estudio vamos a ver las principales regulaciones en materia de derechos humanos a nivel internacional y las tres más importantes a nivel europeo. La redacción de muchos de estos textos normativos sobre derechos humanos, en especial aquellos de carácter internacional, tienen una función más interpretativa o definitoria del ordenamiento jurídico que de aplicación directa como derecho subjetivo. Los que se encuentran en los textos de ámbito europeo, con sus sistemas judiciales propios, sí tienen el carácter de derecho subjetivo, lo que va a permitir crear una coraza de protección frente a los impactos negativos que pueda tener el uso de la inteligencia artificial en ellos. Finalmente, en este cuarto capítulo vamos a comparar los resultados de nuestro análisis sobre los derechos humanos afectados a nivel internacional con la redacción en cuestión de derechos fundamentales de nuestra Constitución. De esta forma vamos a resaltar cuáles son los derechos afectados dentro de nuestro ordenamiento jurídico.

En el capítulo quinto, nos centramos en analizar qué bienes jurídicos penales pueden proteger los derechos fundamentales de forma adecuada. El análisis de la Constitución nos va a ofrecer un listado bastante amplio de derechos fundamentales que a su vez van a abarcan muchos bienes jurídicos penales afectados y que deben ser protegidos por el ordenamiento jurídico penal. Con el fin de realizar un análisis más correcto de los mismos se ha optado por agruparlos por áreas afectadas, lo que nos va a permitir un análisis sistemático parecido a la que sigue el Código Penal en la ordenación de los tipos penales.

Finalmente, se tratan algunos aspectos de futuro relacionados con la inteligencia artificial y la robótica.

El presente trabajo se fundamenta, como se podrá observar en el desarrollo de determinadas secciones del mismo, en los resultados derivados del proyecto europeo SIENNA1 en el que se han creado estándares éticos y legales relacionados con genética, mejora humana y robótica e inteligencia artificial, que nos han servido de base para la conceptualización y el análisis de los sistemas inteligentes. También se han tenido en cuenta los resultados de otros proyectos europeos como SHERPA. En este aspecto la Comisión Europea ha invertido una parte de importante del presupuesto de investigación en el estudio de cómo desarrollar la inteligencia artificial acorde con los principios del Estado de derecho, demostrando su interés como línea estratégica de futuro y de la importancia político económico en las próximas décadas.

La redacción del trabajo se ha realizado en el periodo de confinamiento por la pandemia del COVID 19, en sus diferentes etapas, con la dificultad de acceso a determinados recursos bibliográficos que, sin embargo, no afectan al contenido ni los resultados que se mantiene en la investigación. La finalidad, aparte de establecer conceptos dentro del área y concretar el alcance de la inteligencia artificial, es la de poner sobre la mesa determinadas preguntas, para algunas de las cuales todavía no existe una respuesta, poner un marco para afrontar el impacto de la inteligencia artificial en los derechos humanos y plantear soluciones de protección, entre las que entran, dada la importancia de los bienes afectados, las soluciones penales.

Desde el punto de vista penal, esta obra tiene el objetivo principal el estudio de que bienes jurídicos se van a haber afectados y si los preceptos penales que los protegen pueden dar una solución al mismo. Veremos que existe una base jurídica para abordar los problemas que se pueden presentar con su utilización pero que también existen retos, interpretaciones y la necesidad de crear nuevos instrumentos jurídicos penales para su debida protección. Además, esta investigación consigue un acercamiento al análisis de los principios éticos que se están manejando en la actualidad en el desarrollo de los sistemas inteligentes a nivel mundial, permitiendo que esta selección y clasificación pueda servir a otras áreas de conocimiento a definir los marcos éticos y jurídicos sobre los que tienen que operar, por ejemplo, las ciencias de la computación. Además, sirve de base para otras disciplinas jurídicas. Obviamente, el Derecho Constitucional sería uno de los más interesados ya que la selección de derechos humanos y fundamentales en los que se basa la aproximación al derecho penal puede servir de base para su interpretación dentro de este contexto tecnológico o de la creación de nuevos derechos que puedan surgir.

Esta obra tiene como objetivo ser un punto de salida en un debate que va a necesitar de unos años para definirse y asentarse y que va a ser de gran importancia para determinar el futuro de nuestro sistema democrático basado en los principios liberales de la ilustración y plantearnos el futuro próximo de nuestra sociedad. Espero que al lector, al menos, le motive intelectualmente a plantearse cómo será nuestra relación con los sistemas inteligentes sin entrar en una percepción distópica que no tiene mucho que ver con la realidad en la que vivimos.

1. www.sienna-project.eu.