Читать книгу Inteligencia artificial (Umbrales éticos, Derecho y Administraciones Públicas) - Mar Moreno Rebato - Страница 9

Los Principios de la OCDE sobre Inteligencia Artificial promueven la inteligencia artificial (IA) que es innovadora y confiable y que respeta los derechos humanos y los valores democráticos. Fueron adoptados en mayo de 2019 por los países miembros de la OCDE cuando aprobaron la Recomendación del Consejo de la OCDE sobre Inteligencia Artificial33.

En junio de 2019, el G20 adoptó los Principios de IA centrados en el ser humano que se basan en los Principios de IA de la OCDE.

Se formulan cinco grandes Principios, que transcribo, literalmente:

1. Crecimiento inclusivo, desarrollo sostenible y bienestar

Las partes interesadas deben participar de manera proactiva en la administración responsable de la IA confiable en la búsqueda de resultados beneficiosos para las personas y el planeta, como aumentar las capacidades humanas y mejorar la creatividad, promover la inclusión de poblaciones subrepresentadas, reducir las desigualdades económicas, sociales, de género y de otro tipo, y proteger los entornos naturales, estimulando así el crecimiento inclusivo, el desarrollo sostenible y el bienestar.

2. Valores y equidad centrados en el ser humano

a) Los actores de la IA deben respetar el Estado de derecho, los derechos humanos y los valores democráticos durante todo el ciclo de vida del sistema de IA. Estos incluyen libertad, dignidad y autonomía, privacidad y protección de datos, no discriminación e igualdad, diversidad, equidad, justicia social y derechos laborales reconocidos internacionalmente.

b) Para ello, los actores de la IA deben implementar mecanismos y salvaguardas, como la capacidad de determinación humana, que sean apropiados al contexto y consistentes con el estado del arte.

3. Transparencia y explicabilidad

Los actores de IA deben comprometerse con la transparencia y la divulgación responsable con respecto a los sistemas de IA. Para ello, deben proporcionar información significativa, adecuada al contexto y coherente con el estado de la técnica: fomentar una comprensión general de los sistemas de IA, concienciar a las partes interesadas de sus interacciones con los sistemas de IA, incluso en el lugar de trabajo, permitir que los afectados por un sistema de IA comprendan el resultado, y permitir que aquellos afectados negativamente por un sistema de inteligencia artificial cuestionen su resultado basándose en información simple y fácil de entender sobre los factores y la lógica que sirvió como base para la predicción, recomendación o decisión.

4. Robustez, seguridad y protección

a) Los sistemas de IA deben ser robustos y seguros durante todo su ciclo de vida para que, en condiciones de uso normal, uso previsible o mal uso, u otras condiciones adversas, funcionen adecuadamente y no presenten riesgos de seguridad irrazonables.

b) Con este fin, los actores de la inteligencia artificial deben garantizar la trazabilidad, incluso en relación con los conjuntos de datos, los procesos y las decisiones tomadas durante el ciclo de vida del sistema de inteligencia artificial, para permitir el análisis de los resultados del sistema de inteligencia artificial y las respuestas a las consultas, de manera adecuada al contexto y coherente con el estado del arte.

c) Los actores de la IA deben, según sus roles, el contexto y su capacidad para actuar, aplicar un enfoque sistemático de gestión de riesgos en cada fase del ciclo de vida del sistema de IA de forma continua para abordar los riesgos relacionados con los sistemas de IA, incluida la privacidad, la seguridad digital, seguridad y sesgo.

5. Responsabilidad

Los actores de la IA deben ser responsables del correcto funcionamiento de los sistemas de IA y del respeto de los principios anteriores, en función de sus funciones, el contexto y de conformidad con el estado de la técnica.