Inteligencia artificial (Umbrales éticos, Derecho y Administraciones Públicas)

Оглавление

Mar Moreno Rebato. Inteligencia artificial (Umbrales éticos, Derecho y Administraciones Públicas)

INTELIGENCIA ARTIFICIAL (UMBRALES ÉTICOS, DERECHO Y ADMINISTRACIONES PÚBLICAS)

Índice

Presentación

Introducción

Capítulo I. Principios éticos y Derecho. 1. ALCANCE, PLANTEAMIENTO EN TORNO A SU REGULACIÓN Y CONCEPTO DE INTELIGENCIA ARTIFICIAL

2. PRINCIPIOS ÉTICOS. 2.1. INTRODUCCIÓN

2.2. INICIATIVAS QUE HAN IDO PERFILANDO UNOS PRINCIPIOS ÉTICOS

A) Principios de la OCDE sobre inteligencia artificial adoptados, también, por el G20

B) Declaración de Toronto

C) Carta Ética europea sobre el uso de la inteligencia artificial en los sistemas judiciales y su entorno, del Consejo de Europa

D) Otras iniciativas

E) En especial, las directrices éticas para una inteligencia artificial fiable, grupo independiente de expertos creado por la Comisión Europea42

3. PRINCIPIOS ÉTICOS Y DERECHO. AUTORREGULACIÓN Y/O REGULACIÓN

Capítulo II. Acción y supervisión humana. Solidez técnica y seguridad. Gestión de la privacidad y de los datos. 1. ACCIÓN Y SUPERVISIÓN HUMANAS. CONTROL Y MANDO HUMANO (INCIDENCIA EN LOS DERECHOS FUNDAMENTALES)

2. SOLIDEZ TÉCNICA Y SEGURIDAD (RESISTENCIA A LOS ATAQUES Y SEGURIDAD, PLAN DE REPLIEGUE, PRECISIÓN, FIABILIDAD Y REPRODUCIBILIDAD)

3. GESTIÓN DE LA PRIVACIDAD Y DE LOS DATOS (PROTECCIÓN DE LA INTIMIDAD Y DE LOS DATOS)

Capítulo III. Diversidad, no discriminación y equidad. Algoritmos y discriminación. 1. DIVERSIDAD, NO DISCRIMINACIÓN Y EQUIDAD. AUSENCIA DE SESGOS INJUSTOS, ACCESIBILIDAD, DISEÑO UNIVERSAL Y PARTICIPACIÓN DE LOS INTERESADOS. 1.1. INTRODUCCIÓN

1.2. EN CONCRETO, LA NECESIDAD DE EVITAR SESGOS INJUSTOS. EL PRINCIPIO DE IGUALDAD Y NO DISCRIMINACIÓN

1.3. ALGORITMOS Y DISCRIMINACIÓN. A) Conceptos previos

B) Diseño de algoritmos, elaboración de perfiles, algoritmos opacos, el “webling” y los “valores incrustados”

C) ¿Por qué discriminan los algoritmos y cómo discriminan?

D) ¿Cómo se puede probar la discriminación algorítmica?

E) ¿Es necesario recopilar datos sensibles para no discriminar? ¿Es necesario enseñar a los sistemas automatizados a no discriminar utilizando datos sensibles?

F) ¿Pueden los algoritmos detectar la discriminación?

G) ¿Cómo se puede avanzar hacia el cumplimiento de los derechos fundamentales (por ejemplo, la igualdad y la no discriminación) en el desarrollo y uso de algoritmos?

2. VISIÓN PRÁCTICA. EJEMPLOS DE DISCRIMINACIÓN ALGORÍTMICA. 2.1. RECONOCIMIENTO FACIAL

2.2. LA PREDICCIÓN DE REINCIDENCIA EN LA COMISIÓN DE DELITOS. EL CASO COMPAS

2.3. CLASIFICACIÓN DE PERSONAS DESEMPLEADAS SEGÚN SU PROBABILIDAD DE ENCONTRAR UN NUEVO TRABAJO. EL SISTEMA AUTOMATIZADO PAMAS

2.4. PREDECIR LA PROBABILIDAD DE QUE PERSONAS BENEFICIARIAS DE AYUDAS PÚBLICAS COMETAN FRAUDE. ALGORITMOS EN BUSCA DE FRAUDE EN AYUDAS PÚBLICAS. EL CASO SYRI49

2.5. POLÍTICA DE SEGMENTACIÓN DE PUBLICIDAD DE FACEBOOK

2.6. RESERVA DE SESIONES DE TRABAJO DE LOS RIDERS REALIZADA POR DELIVEROO BASADAS EN UN RANKING REPUTACIONAL

3. DISCRIMINACIÓN POSITIVA ALGORÍTMICA

Capítulo IV. Transparencia, bienestar social y ambiental y rendición de cuentas. 1. TRANSPARENCIA, EXPLICABILIDAD, TRAZABILIDAD Y COMUNICACIÓN

2. EL ACCESO AL CÓDIGO FUENTE. 2.1. PLANTEAMIENTO GENERAL Y PROBLEMÁTICA

2.2. EL BONO SOCIAL ELÉCTRICO Y EL PROGRAMA BOSCO

3. BIENESTAR SOCIAL Y AMBIENTAL. SOSTENIBILIDAD Y RESPETO AL MEDIO AMBIENTE. IMPACTO SOBRE LA SOCIEDAD Y LA DEMOCRACIA

4. RENDICIÓN DE CUENTAS. AUDITABILIDAD, MINIMIZACIÓN DE EFECTOS NEGATIVOS Y COMPENSACIONES

Capítulo V. Marco de protección frente a los riesgos y daños de la Inteligencia Artificial. 1. EL SISTEMA DE PROTECCIÓN FRENTE A LOS RIESGOS Y DAÑOS QUE PUEDEN CAUSAR LOS SISTEMAS DE INTELIGENCIA ARTIFICIAL ES UN SISTEMA INACABADO

2. LA PROPUESTA DE REGLAMENTO DE LA UNIÓN EUROPEA SOBRE INTELIGENCIA ARTIFICIAL. 2.1. CONTEXTO GENERAL Y PRINCIPALES APORTACIONES

2.2. EN ESPECIAL, LOS REQUISITOS EXIGIDOS A LOS SISTEMAS DE INTELIGENCIA ARTIFICIAL DE ALTO RIESGO

Capítulo VI. Las Administraciones Públicas y la Inteligencia Artificial (en España) 1. ADMINISTRACIONES PÚBLICAS Y SECTOR PÚBLICO EN EL LIBRO BLANCO DE INTELIGENCIA ARTIFICIAL, EN LA PROPUESTA DE REGLAMENTO DE LA UNIÓN EUROPEA SOBRE INTELIGENCIA ARTIFICIAL Y EN LA ESTRATEGIA ESPAÑOLA DE I+D+I EN INTELIGENCIA ARTIFICIAL

2. DESPLIEGUE DE LA INTELIGENCIA ARTIFICIAL EN LAS ADMINISTRACIONES PÚBLICAS Y CAMBIOS A NIVEL ORGÁNICO

3. LA INTELIGENCIA ARTIFICIAL EN LA LEGISLACIÓN ADMINISTRATIVA ESPAÑOLA

4. PROCEDIMIENTOS ADMINISTRATIVOS Y ALGORITMOS

5. ALGORITMOS EN EL EJERCICIO DE POTESTADES REGLADAS Y DISCRECIONALES

6. LA NATURALEZA JURÍDICA DE LOS ALGORITMOS

7. LIMITACIONES DE LA INTELIGENCIA ARTIFICIAL PARA AUTOMATIZAR DECISIONES JURÍDICAS. EL DESARROLLO DE LOS LENGUAJES INFORMÁTICOS, EN ESTE CONTEXTO. ESTADO DE LA CUESTIÓN

8. CONSIDERACIONES FINALES

Capítulo VII. Bibliografía

Отрывок из книги

MAR MORENO REBATO

Profesora Titular de Derecho Administrativo

.....

En relación a los códigos de conducta, la propuesta de Reglamento de la UE sobre IA establece51:

1. Que la Comisión y los Estados miembros fomentarán y facilitarán la elaboración de códigos de conducta, voluntarios, para los sistemas IA que no son considerados de alto riesgo. Estos códigos de conducta (códigos éticos) promoverán la aplicación voluntaria de los requisitos exigidos a los sistemas IA de alto riesgo (requisitos que, en relación a estos, sí son de obligado cumplimiento).

.....