Читать книгу Nuevas normatividades: Inteligencia Artificial, Derecho y Género - Rafael Fernández Acevedo - Страница 7

Tras la aprobación y publicación de comunicaciones, informes y demás, ha sido en este año 2021 cuando la Comisión ha publicado en el mes de abril una propuesta de reglamento con el objetivo de armonizar las normas sobre la IA. Conforme a este proyecto, el sistema de IA se define como un software desarrollado con una o varias de las técnicas y enfoques enumerados en uno anexo, con la capacidad de generar resultados para un conjunto de objetivos definidos por personas físicas, como predicciones, recomendaciones o decisiones. Este anexo que incluye las técnicas de IA contiene tres enfoques diferentes: el basado en el aprendizaje automático, el de la lógica y el conocimiento, y el de los métodos estadísticos. El eje fundamental de esta futura regulación se basa en aprovechar los beneficios que ofrece la IA y, al mismo tiempo, prevenir los riesgos que pueden derivarse de su aplicación. Estas dificultades incluyen impactos graves para la sociedad o actividades económicas, o incluso posibles daños sobre los derechos fundamentales17.

La propuesta de reglamento combina diferentes técnicas de intervención, que van desde la prohibición total o parcial de determinadas actividades para evitar riesgos, pasando por controles preventivos con regímenes autorizados, hasta un sistema de inspección y responsabilidad. Con esta propuesta se encuentran prohibidos determinados usos específicos de la IA, concretamente aquellos que permiten la manipulación de los ciudadanos, los que emplean información personal para detectar vulnerabilidades de las personas y los que utilizan dicha información para establecer perfiles clasificatorios de los ciudadanos. Ahora bien, algunos de estos métodos pueden ser empleados por autoridades públicas en casos excepcionales, siempre que estén autorizados por una norma y con fines de seguridad pública, excepción que parece estar destinada a una vigilancia genérica18. Por otro lado, se contemplan un conjunto de aplicaciones que requieren autorización administrativa, como la identificación biométrica remota en lugares públicos. Además, se establecerán reglas específicas para determinados casos como, por ejemplo, cuando la Administración pública o una entidad utilice mecanismos automatizados o chatbots que interactúen con los usuarios, se les advertirá que no están hablando con una persona real.

No obstante, el verdadero núcleo de la propuesta europea es el enfoque de los usos de la IA basado en el análisis de riesgos para los derechos fundamentales y la seguridad de las personas. La propuesta incluye una serie de aplicaciones de alto riesgo que requerirán condiciones específicas, por ejemplo, en el caso de la identificación biométrica, se requiere una verificación previa por parte de un tercero independiente. Además, para el funcionamiento de infraestructuras críticas, es decir, sistemas cuyo mal funcionamiento puede causar daños muy graves, como a sistemas que se encarguen de gestionar bienes básicos (como centrales eléctricas, potabilizadoras de agua, etc.). Esta variedad de sistemas de IA estará sujeta a obligaciones, debiendo garantizar que cuentan con métodos de evaluación y mitigación de riesgos, una alta calidad de los datos utilizados en el sistema, documentación integral sobre su desarrollo y finalidad, y supervisión humana para minimizar el riesgo. Sin embargo, el legislador europeo ha dado cierta flexibilidad al requisito de transparencia para respetar los secretos industriales utilizados en la aplicación. Al mismo tiempo, aquellas aplicaciones que no estén clasificadas como de “alto riesgo” pueden asumir códigos de conducta voluntarios. Además, los estados miembros deberán establecer mecanismos de supervisión y sanción. Uno de los últimos temas que regula la propuesta es el establecimiento de sandboxes o espacios de prueba controlados.

En definitiva, esta propuesta de reglamento establece unos requisitos que permiten que las aplicaciones de IA puedan ser utilizadas tanto por operadores públicos como privados. Son requisitos generales y adicionales que buscan prevenir daños a la propiedad intelectual y a los derechos protegidos al más alto nivel legal. En otras palabras, la propuesta intenta prevenir esos resultados dañinos, no prohíbe cosas que actualmente se encuentran permitidas.