Читать книгу Nuevas normatividades: Inteligencia Artificial, Derecho y Género - Rafael Fernández Acevedo - Страница 5

El sector público se ha visto envuelto durante años en un proceso de transformación digital para adaptar sus servicios a las nuevas exigencias de los ciudadanos. Los propios Estados han cambiado sus procedimientos para mejorar su efectividad y eficiencia en sus políticas públicas, así como su transparencia e interoperabilidad. Consecuentemente, los avances tecnológicos han generado que las administraciones públicas deban adoptar una posición más dinámica y flexible, por ello, necesitan incorporar nuevos modelos administrativos innovadores que permitan mejorar la capacidad de reacción del sector público2. No obstante, el sector público ha tenido problemas a la hora de adaptarse a estos avances tecnológicos, ya que en ocasiones la situación política no resultaba propicia, o no había una organización estructural adecuada3. A ello debe sumarse la falta de preocupación por incorporar y promocionar el Smart governance, entendido como un nuevo paradigma de gobierno basado en el desarrollo de nuevas tecnologías, prácticas, políticas y recursos mucho más eficientes4. Aunque la crisis del COVID-19 ha puesto de relieve el valor de la administración digital, que ha permitido a los países europeos mejorar su oferta de servicios digitales este último año, por las restricciones de movilidad y las medidas para prevenir la pandemia.

De hecho, el Parlamento Europeo ya ha descrito diversas tecnologías como estrategias clave del siglo XXI para la mejora del proceso de digitalización, entre las que se encuentra la Inteligencia Artificial (IA), generalmente referida a una combinación de técnicas de aprendizaje automático utilizadas para la búsqueda y análisis de grandes volúmenes de datos, así como algoritmos y sistemas de toma de decisiones automatizados capaces de predecir el comportamiento humano y de tomar decisiones. De esta forma, la IA tiene el potencial de transformar diferentes aspectos de los gobiernos, incluidas las interacciones con los ciudadanos, la prestación de servicios, el diseño de políticas públicas y la propia toma de decisiones5, por este motivo, se está incluyendo el uso de estos sistemas en diferentes etapas de la gestión pública. Actualmente, se han desarrollado diferentes proyectos basados en IA en sectores específicos como la salud, la sostenibilidad, el mercado laboral o la propia movilidad ciudadana6. Diversos autores identificaron un conjunto de usos de la IA en los servicios público, como el análisis predictivo, la simulación y la visualización de datos para priorizar aquellas áreas que requieren una inspección por parte de las administraciones7. Además, estos instrumentos ayudan a una planificación eficiente a medio y largo plazo. En este sentido, los beneficios que las nuevas tecnologías pueden aportar a las administraciones públicas son muchos, incluidas las posibilidades en la contratación pública con el uso de técnicas de análisis cruzado de grandes cantidades de datos8.

No obstante, la incertidumbre sobre el impacto potencial a largo plazo de las nuevas tecnologías y los marcos legales existentes no adaptados al nuevo panorama sociotécnico ha generado una serie de dificultades en lo referente a los usos de la IA. Desde la Unión Europea (UE) se ha explorado una respuesta legal para resolver los posibles riesgos de la IA, siguiendo una serie de principios centrados en el ser humano9. Por ello, a finales de abril de 2021, la Comisión presentó una propuesta de reglamento sobre IA, “Proposal for a Regulation laying down harmonized rules on artificial intelligence” (Artificial Intelligence Act), ya que las múltiples aplicaciones que el uso de la IA puede implicar para los ciudadanos, resulta clave que los legisladores consideren sus implicaciones y efectos legales y éticos, pero sin impedir el avance y la innovación tecnológica. Si bien, esta tecnología puede dar lugar a la quiebra de derechos fundamentales, problemas con la seguridad jurídica o con los principios y obligaciones de la Administración pública10.

El interés de los Estados y organismos supranacionales en esta materia se ha reflejado en declaraciones, planes y programas estratégicos para integrar la IA en las sociedades contemporáneas con el objetivo de incentivar su avance y, al mismo tiempo, salvaguardar posibles intereses y derechos. En el caso español, el desarrollo de la administración inteligente está siendo desigual, aunque en determinadas áreas avanza más rápidamente, como es el caso de las investigaciones policiales o en materia tributaria, así como de seguridad social. Desde 2004 se han puesto en marcha numerosas iniciativas para impulsar el desarrollo de la administración electrónica y la implementación de nuevas tecnologías que puedan mejorar los servicios a los ciudadanos, sin embargo, puede que la legislación vigente no se encuentre adaptada a las necesidades legales de la IA.

En este sentido, uno de los usos más interesantes es el uso de algoritmos de IA en la toma de decisiones públicas, concretamente en la toma de decisiones automatizadas. Como ya ha sido señalado, el uso de este tipo de algoritmos puede ser empleado de diferentes maneras en la toma de decisiones públicas. Así, por ejemplo, se puede emplear como apoyo o para el análisis de datos necesarios para la adopción de estas, o incluso, con el objetivo de automatizar ciertas fases del proceso y mejorar su eficiencia, siendo siempre en última instancia una persona física la que tomaría dicha decisión11. No obstante, las dificultades se encuentran en la falta de intervención humana, cuando es directamente el algoritmo el que toma la decisión pública. Esta situación puede dar lugar a una serie de problemas jurídicos como la discriminación o los sesgos de género, entre otros. Si bien, a falta de una regulación concreta para este tipo de sistemas, la protección de datos personales se presenta como un límite claro en la actuación administrativa automatizada, concretamente el Reglamento (UE) 2016/678 (RGPD)12, ha regulado en su artículo 22 para los tratamientos de datos que tengan como objetivo la toma de decisiones basada en un dictamen emitido sin intervención humana, para lo que establece una serie de obligaciones a las organizaciones u organismos que quieran emplear este sistema.

Por ello, la presente investigación pretende analizar el empleo de decisiones públicas automatizadas desde la óptica de la regulación de protección de datos. Para esto, el capítulo se encuentra dividido en cuatro epígrafes junto a la introducción y la bibliografía, en el primero se dará una perspectiva sobre la consideración de la IA por parte de la Unión Europea y su actual o futura regulación, para contextualizar esta tecnología, seguidamente se procederá al estudio de la regulación desde la perspectiva del artículo 22 del RGPD respecto a las decisiones automatizadas. El tercer epígrafe tratará el caso concreto de España y la regulación en protección de datos frente a las decisiones automatizadas, así como diversos conflictos y soluciones en el ámbito del sector público debatidos por la doctrina. Finalmente, se concluirá la investigación con una serie de reflexiones finales.