Читать книгу Inteligencia artificial (Umbrales éticos, Derecho y Administraciones Públicas) - Mar Moreno Rebato - Страница 6

Compraventa de acciones bursátiles a través de negociación algorítmica de alta frecuencia, herramientas de analítica jurisprudencial predictiva que ayudan a definir estrategias procesales en el ámbito del Derecho, sistemas predictivos que calculan la probabilidad de reincidencia en la comisión de delitos, o de fraude en el otorgamiento de ayudas o contratos públicos, reconocimiento facial, cirugía robótica, análisis de imágenes clínicas, apoyo en decisiones diagnósticas y terapéuticas, control de pandemias, ensayos clínicos para desarrollar nuevos fármacos que pueden eliminar la necesidad de experimentación animal, introducción de algoritmos en la detección y pronóstico de incendios recopilando datos ambientales del terreno y meteorológicos, análisis de comportamiento de los océanos a través de datos de teledetección recogidos por satélite, monitoreo de cultivos y suelos para capturar datos, mediante visión, robots que realizan tareas agrícolas, aplicación de pesticidas químicos planta por planta, aplicaciones basadas en Inteligencia Artificial para mejorar competencias educativas para niños con dificultades de aprendizaje, coches autónomos, conectados, que envían, reciben y analizan ingentes cantidades de datos, transporte público inteligente y bajo demanda, ciudades inteligentes y un larguísimo etcétera. La Inteligencia Artificial, una tecnología disruptiva, el gran motor tras la cuarta revolución industrial, 4.0, ya está muy presente en nuestras vidas y es una tecnología que ha venido para quedarse.

La Inteligencia Artificial se desarrolla mediante el uso de algoritmos y datos. Un algoritmo es un conjunto de instrucciones para solucionar un problema. Estas instrucciones se realizan a través de un código (lenguaje informático). Con el tiempo los algoritmos se han hecho más complejos, pasando de ser estáticos (no aprenden con el tiempo, sino que los programadores diseñan ya, en los mismos, los criterios para tomar las decisiones) a ser dinámicos (machine learning, aprenden con el tiempo de los datos y experiencias para tomar decisiones por sí mismos, generando nuevas instrucciones que ya no son las iniciales del programador) e, incluso, algoritmos de aprendizaje profundo (Deep learning), que emulan redes neuronales complejas, extraen patrones de masas de datos y los resultados que se obtienen no están relacionados de modo lineal sino complejo, por lo que no es fácil determinar la relación o causalidad entre los datos y la decisión adoptada. El mayor problema que plantean los algoritmos de aprendizaje automático es que los humanos pueden llegar a no controlar la causalidad entre los datos y la decisión tomada, se pierde la transparencia del proceso volviéndose, incluso, opacos para sus creadores (que, incluso, pueden no entender la lógica que siguen) convirtiéndose el proceso de decisión por parte del algoritmo en una caja negra (black box)1.

La Inteligencia Artificial necesita una gran cantidad de datos para el aprendizaje automático (Big Data o macrodatos) pero el Big Data utiliza, a su vez, la inteligencia artificial y sus técnicas para extraer valor de los grandes volúmenes de información; se correlacionan, por tanto, de manera bidireccional2.

El Big Data, “permite manejar, sistematizar, mapear, graficar, administrar, ordenar, analizar y visualizar datos, para convertirlos en información; implica una serie de procesos para que, además, dicha información genere valor y tenga una utilidad o persiga un fin específico. En Big Data, la minería de datos o data mining juega un importante papel, ya que a través de sus técnicas es como los especialistas consiguen obtener patrones de esos grandes volúmenes de datos. A través del uso de algoritmos (que, como decíamos antes, son un conjunto de parámetros e instrucciones que permiten estudiar los datos para convertirlos, entre otras cosas, en información) se obtienen soluciones a través de una serie de pasos lógicos y predeterminados. Pero ello, también lleva implícito un gran desafío tecnológico, pues la complejidad del minado de datos es cada vez mayor y los algoritmos tienden a ser también cada vez más intrincados”3.

Pero el Big Data es, también, un gran negocio, los datos que circulan en redes y servidores se comercializan4 y esto puede dar lugar a lo que se ha denominado una sociedad de clases digitales, donde nuestros datos se etiquetan, por colectivos, a partir de prácticas discriminatorias, de tipo social y económico5 ante las cuales el Derecho no puede quedar indiferente. En este sentido, por ejemplo, el Parlamento Europeo publicó, en 2017, una Resolución sobre las implicaciones de los macrodatos en los derechos fundamentales: privacidad, protección de datos, no discriminación, seguridad y aplicación de la ley6.

Pocos países han iniciado la regulación de la Inteligencia artificial7. Entre todos destacan Corea del Sur8 y Japón9. Otro grupo de países han constituido comisiones o comités de estudio para abordar la futura regulación sobre la inteligencia artificial como Taiwán10, Estados Unidos11, Reino Unido12, y, también la Unión Europea13, el Consejo de Europa14 o las Naciones Unidas15. El Gobierno de España, también, ha creado una comisión para la elaboración de un Libro blanco sobre Inteligencia Artificial16. Una primera cuestión que habrá que resolver es si es necesario una norma de ámbito nacional, o comunitario (Unión Europea) o, incluso, tratados internacionales para su regulación. En todo caso está claro que existe una absoluta necesidad de regular jurídicamente la Inteligencia Artificial17. Pero en qué sentido. ¿Es posible que una regulación se adelante a la ciencia? ¿Podríamos regular la ciencia-ficción? Es decir, una materia que todavía no es posible, científicamente, pero que podría ser en un futuro cercano ¿debería regularse ya?18 Hace unos años, Bill GATES, Stephen HAWKING y Elon MUSK advertían de los riesgos de la Inteligencia Artificial y que podía crearse una Inteligencia Artificial superior a la humana que se tornase en contra de los seres humanos19. En todo caso, no es frecuente que estas escasas normas reguladoras, o en los documentos que han ido elaborando estos comités, se defina la Inteligencia Artificial20 ¿Por qué no lo hacen? La respuesta se encuentra en que, si la definición es demasiado específica, los avances posteriores en Inteligencia Artificial pueden hacer que la descripción se vuelva obsoleta, ya que no comprenderá las nuevas mejoras tecnológicas. Por lo tanto, la definición debe ser flexible y que no lastre la innovación tecnológica.

Ofrecemos a continuación varios conceptos de Inteligencia Artificial realizados por distintas instituciones europeas:

“Sistema de inteligencia artificial (sistema de IA)”: el software que se desarrolla empleando una o varias de las técnicas y estrategias que figuran en el anexo I y que puede, para un conjunto determinado de objetivos definidos por seres humanos, generar información de salida como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa21.

Anexo I:

a) Estrategias de aprendizaje automático, incluidos el aprendizaje supervisado, el no supervisado y el realizado por refuerzo, que emplean una amplia variedad de métodos, entre ellos el aprendizaje profundo.

Estrategias basadas en la lógica y el conocimiento, especialmente la representación del conocimiento, la programación (lógica) inductiva, las bases de conocimiento, los motores de inferencia y deducción, los sistemas expertos y de razonamiento (simbólico).

Estrategias estadísticas, estimación bayesiana, métodos de búsqueda y optimización”.

Tal y como se establece en la Exposición de Motivos, de la propuesta de Reglamento de la Unión Europea sobre IA, las partes interesadas solicitaron una definición ajustada, clara y precisa. Se trata de una definición tecnológicamente neutra que pretende resistir el paso del tiempo lo mejor posible, teniendo en cuenta la rápida evolución tecnológica y del mercado de la IA. La definición se complementa con una lista de técnicas y estrategias, concretas, que se usan en su desarrollo. Pero, realmente, no estamos ante un concepto cerrado de IA, ya que tanto el propio concepto de IA como los sistemas de IA considerados de alto riesgo, pueden actualizarse a través de actos delegados de la Comisión Europea22.

“Un sistema basado en programas informáticos o incorporado en dispositivos físicos que manifiesta un comportamiento inteligente al ser capaz, entre otras cosas, de recopilar y tratar datos, analizar e interpretar su entorno y pasar a la acción, con cierto grado de autonomía, con el fin de alcanzar objetivos específicos”23.

Y, efectivamente,

“Puede consistir simplemente en un programa informático (p.ej. asistentes de voz, programas de análisis de imágenes, motores de búsqueda, sistemas de reconocimiento facial y de voz), pero la IA también puede estar incorporada en dispositivos de hardware (p. ej. robots avanzados, automóviles autónomos, drones o aplicaciones del internet de las cosas)”24.

Por su parte, la Carta Ética europea sobre el uso y desarrollo de la inteligencia artificial en los sistemas judiciales, de la Comisión Europea para la Eficiencia de la Justicia, del Consejo de Europa, de diciembre de 2018, realiza la siguiente definición:

“INTELIGENCIA ARTIFICIAL (IA) Conjunto de métodos, teorías y técnicas científicas cuyo objetivo es reproducir, mediante una máquina, las capacidades cognitivas del ser humano. Los desarrollos actuales buscan que las máquinas realicen tareas complejas previamente realizadas por humanos”.

En términos mucho más sencillos, para legos en la materia, la inteligencia artificial puede ser definida como la “inteligencia exhibida por máquinas”25; en definitiva, una “máquina” inteligente, que piensa como un humano y que, incluso, puede mejorar su rendimiento. En realidad, la inteligencia artificial se puede dividir en cuatro tipos26: 1. Sistemas que piensan como humanos. Estos sistemas tratan de emular el pensamiento humano; por ejemplo, las redes neuronales artificiales. La automatización de actividades que vinculamos con procesos de pensamiento humano, actividades como la toma de decisiones, resolución de problemas y aprendizaje. 2. Sistemas que actúan como humanos. Estos sistemas tratan de actuar como humanos; es decir, imitan el comportamiento humano; por ejemplo, la robótica. El estudio de cómo lograr que los computadores realicen tareas que, por el momento, los humanos hacen mejor. 3. Sistemas que piensan racionalmente. Es decir, con lógica (idealmente), tratan de imitar o emular el pensamiento lógico racional del ser humano; por ejemplo, los sistemas expertos. El estudio de los cálculos que hacen posible percibir, razonar y actuar y, 4. Sistemas que actúan racionalmente (idealmente). Tratan de emular de forma racional el comportamiento humano; por ejemplo, los agentes inteligentes. Está relacionado con conductas inteligentes en máquinas.