Читать книгу Inteligencia artificial, Derechos Humanos y bienes jurídicos - Javier Valls Prieto - Страница 5

El origen del concepto de inteligencia artificial surge en los años 50 del siglo XX de la mano de diferentes áreas de conocimiento que van desde la filosofía, la computación, las matemáticas, psicología o biología. En un primer momento la idea detrás de este concepto es la realización de actividades consideradas como inteligentes porque requieren algún grado de inteligencia y la creación de herramientas y de programas que puedan desarrollarlas2. La evolución de esta tecnología en estos 70 años no ha estado libre de picos y valles, lo que se ha denominado dentro del sector como los “inviernos de la inteligencia artificial”3, en su desarrollo siendo de los primeros los más importantes a principios de los 70, finales de los 80 y finales de los 90, este último en relación a la aplicación de redes neuronales en investigación espacial4. El actual auge de la inteligencia artificial, que se da a principios del milenio en las áreas de la astrofísica y de la investigación sobre el genoma, se debe al aumento de la capacidad de procesamiento de datos y al abaratamiento del almacenaje de los mismos5. Para cuando llega la expansión de su uso a otras ramas nos encontramos, al principio de la segunda década del siglo XXI, con una creación de datos horizontal (realizada por los ciudadanos al utilizar los dispositivos móviles), una muy fuerte capacidad de procesamiento de estos y un buen desarrollo de ingenieros informáticos y de datos, tres factores que determinan la gran eclosión de la utilización de inteligencia artificial6 en diferentes campos de la vida. Para hacernos una idea de la magnitud del fenómeno, la previsiones de creación de datos realizadas en 2015 para el año 2020 eran de 40 zettabits (un zettabits es 1021) cuando la realidad ha sido de 7000 zettabits sólo con los datos que circulan en internet. Al mismo tiempo la ley de aumento de procesamiento de los ordenadores, la ley Moore, hace tiempo que se ha visto superada, acelerando la capacidad de duplicar la potencia de procesamiento en menos de dos años desde introducción sistemática de utilización de semiconductores. La velocidad a la que se han producido los acontecimientos ha derivado en multitud de usos y de contextos en los que se desarrollan, dando tal cantidad de conceptos que es difícil definir lo que es inteligencia artificial.

Se ha considerado como inteligencia artificial la capacidad de la máquina de pensar, de razonar y actuar con inteligencia. Sin entrar de lleno en la definición de inteligencia, podemos considerar la inteligencia artificial es un sistema que puede realizar tareas como humanos7. En algunos casos, con un rendimiento mejor que los humanos como la búsqueda de información o jugando al Go, un juego de mesa, muy popular en Asia, de una gran variedad de posibilidades y que necesita un procesamiento alto de variables.

La definición de inteligencia artificial varía dependiendo de la disciplina que trata de abordarla y de los objetivos que se pretenden con ella. Si partimos de la sistematización de Russel y Norvig para clasificar los diferentes ámbitos podemos conseguir cuatro definiciones8. Las claves para clasificarlas son: procesar pensamiento y razonamiento, comportamiento, actuación humana y actuación ideal. De esta forma, cualquier máquina que se actúa como un humano podría ser considerada como inteligencia artificial. Este acercamiento a esta primera definición se basa en el test de Turing que, resumidamente, lo que pretende es ver si una máquina puede ser confundida por una persona. El test se pasa si después de un cuestionario la persona no puede distinguir si es un ordenador o un humano el que está respondiendo. Este test ha sido superado por maquinas en muchas ocasiones y, por este motivo, los científicos, hoy día, han considerado más interesante conocer lo que hay detrás de esta actuación humana más que en replicarla.

Una segunda definición se centra en la habilidad de la máquina de pensar/comportarse como un humano desde el punto de vista cognitivo. Lo que se pretende es observar cómo funciona internamente el conocimiento humano y aplicar los mismos procedimientos a los algoritmos a la hora de realizar actividades consideradas como inteligentes.

Un tercer acercamiento a una posible definición del concepto, esta vez basada en lo que se considera como pensamiento racional. Se centra en las leyes de la lógica para construir razonamientos inteligentes equivalentes a los humanos. Este intento es el de la inteligencia artificial que se desarrolló a primeros de los sesenta y que se basa en el pensamiento lógico. Tiene dos límites en su desarrollo, por un lado, no es fácil integrar pensamiento informal en un sistema de reglas lógicas, sobre todo cuando la información de la que se nutre no es completamente certera, y por otro, no es lo mismo resolver problemas lógicos-teóricos que problemas reales. Así ocurrió con los correctores ortográficos de los programas de procesamiento de texto. La ortografía es un conjunto lógico de reglas con algunas excepciones. El procesador de textos Word empezó funcionando de esta forma lógica con unos resultados bastante buenos pero fue superado en el grado de acierto por otros sistemas de corrección basados en el análisis de textos y no en las reglas de la ortográfica como sucedió con el corrector de Google docs.

Por último, la actuación ideal o racional. Como señalan estos autores, actuar es realizar algo y son los agentes los que realizan estas acciones. Los agentes inteligentes son los que realizan acciones de la mejor manera posible. No sólo esperamos que realicen una acción, sino que esta sea la mejor posible, incluso superando las habilidades de las personas. Aquí se puede ver como las definiciones se pueden solapar. Así, el mejor resultado en muchas ocasiones depende del razonamiento lógico y está directamente relacionado con el pensamiento racional. La deducción correcta no siempre es la racional, como muestra el ejemplo de la reacción refleja cuando uno se quema. Si tuviésemos que hacer un razonamiento lógico ante la situación de coger un cazo ardiendo, muy probablemente, la solución no sería la menos lesiva que la que nos depara la irracional.

De aquí se pueden sacar puntos interesantes para intentan comprender el fenómeno. Uno de ellos es que las maquinas tienen la posibilidad de realizar comportamientos automáticos inteligentes en la medida en que pueden realizados de forma parecida a los humanos dentro de un contexto concreto en el que se tienen que elegir entre diferentes posibilidades y que, en determinadas facetas de la vida, aportan soluciones útiles para los humanos. En este punto hay que hacer una aclaración. Se tiende, cuando se habla de inteligencia artificial, dentro del mundo del derecho a recurrir a ejemplos como Hal-9000, principal personaje de 2001 una odisea del espacio9, Skynet, personaje que pasa desapercibido en la serie de películas de Terminator10 y demás influencias del cine fantástico que, separado de su utilización como figuras literarias, generan confusión al tomar la inteligencia artificial como un todo uniforme y alejado de la realidad0. Hoy día se encuentra establecido entre los científicos computacionales el acuerdo de diferenciar entre la inteligencia artificial general y la específica11. La primera es la que nos viene influenciada por la cinematografía de Hollywood que es la que tiene que ver con seres conscientes, vida eterna, maquinas que piensan como humanos o robots que quieren controlar el mundo12. Sería la capacidad de realizar tareas que pueden ser realizadas por un ser humano y se asume que tiene capacidades cognitivas similares a las que se pueden encontrar en una mente humana13. La segunda, es una inteligencia artificial más pequeña, específica y realista que, básicamente, son modelos matemáticos de predicción que puede realizar tareas humanas concretas14 o, de forma, más específica para que sea entendible por la gran mayoría, son programas informáticos con capacidad de realizar tareas inteligentes en campos muy determinados15, en muchos casos con habilidades superiores a los humanos. Se confunde a menudo la inteligencia artificial general con la específica, principalmente por las expectativas que genera la primera y por desconocimiento del funcionamiento de las mismas. Otra confusión generalizada y, probablemente, más importante es la igualar inteligencia artificial con robótica, cuando son disciplinas científicas distintas16.

La inteligencia artificial se divide en dos campos: las que basan su aprendizaje en reglas lógicas (rule-based) y las basadas en datos (data driven, neuronal networks). Las primeras son la que realizan su aprendizaje con reglas lógicas: si X es… entonces Y es… Son aquellas que juegan al ajedrez o al Go y funcionan muy bien cuando el campo de actuación está muy bien definido y es simple17. Para mejorar sus características se puede añadir las soluciones de expertos en el campo en que quieren ser usadas con el fin de introducir su conocimiento en la programación lógica de la máquina y enriquecer su capacidad de acierto. Estas inteligenciar artificiales son llamadas sistemas expertos.

Las que se basan en procesamiento de datos son sistemas que se entrenan para aprender usando un gran número de información para realizar una tarea18. Se conocen con el nombre de aprendizaje máquina (machine learning). Esta rama de la inteligencia artificial es la más popular en la actualidad debido, como hemos señalado con anterioridad, al abaratamiento de sistemas de almacenamiento de datos y al increíble aumento de datos que se ha producido con la popularización de los teléfonos inteligentes y los dispositivos electrónicos receptores de datos. En cierta forma, el análisis de datos masivos es la base sobre la que se basa el aprendizaje de máquina, aunque muchos de sus análisis no tienen la característica de “aprender” ni de ser “inteligentes”.

En la actualidad, ha surgido un subgrupo de este conjunto denominado aprendizaje profundo (Deep learning). Es un subsistema del aprendizaje de máquina que gracias al aumento de potencia de procesado y basado en redes neuronales, siguiendo el funcionamiento biológico del cerebro humano, permite conseguir aciertos en las tareas con más exactitud que con sistemas estadísticos. Si, partiendo de un acercamiento biológico, las redes neuronales cerebrales nos permiten interconectar diferentes “acciones” de una neurona con otra, dando como resultado una transmisión y filtrado de información que nos permite hacer diferentes conexiones dentro del procesamiento del cerebro, las redes neuronales del aprendizaje profundo nos permiten establecer una trama de procesamiento de datos que permite conseguir el resultado buscado en esa labor “pensante”. Así, se procesa información por una primera línea de neuronas artificiales, permitiendo diferenciar, por ejemplo, imágenes de animales de imágenes de coches, edificios, libros, etc. pero, sin embargo, poniendo un ejemplo muy popular, no consigue clasificar imágenes de magdalenas de arándanos o de otros animales. Así, en este primer cribado, perros gatos, mapaches, calamares siguen estando junto. En un segundo filtrado, una siguiente batería de neuronas realiza otra selección, por ejemplo, eliminando calamares, peces, elefantes y monos de las imágenes, pero dejando perros, gatos y magdalenas de arándanos. Se vuelve a pasar por otra batería de neuronas que vuelven a filtrar, sucesivamente, hasta que se llega al resultado solicitado. O no, como se puede ver en el ejemplo de las fotos de chiguaguas y las magdalenas de arándanos.

Estos sistemas neuronales se están aplicando a campos como la visión computacional (con la intención de comprender imágenes o vídeos que puede servir desde analizar machas en la piel para ver si son melanomas a reconocimiento facial para detectar personas), sistemas de lenguaje natural (que permite a una máquina entender y procesar una conversación con humanos) en los que se están consiguiendo resultados sorprendentes.

Dentro de este rapidísimo desarrollo tecnológico en el que nos vemos envueltos, encontramos otros subcampos de interés de la inteligencia artificial como los sistemas expertos, en el que la máquina es capaz de razonar como un experto humano en determinadas materias; la minería de datos, que desarrolla sistemas de procesamiento de ingentes cantidades de datos; sistemas inteligentes19 y planificación automática, en el que se puede, en el primer caso, conseguir determinados objetivos mediantes modelos predictivos de futuro en un entorno determinado, mientras que la planificación automática permite analizar un problema desde diferentes agentes mediante la planificación, comparación y competición entre ellos con el fin de conseguir el objetivo deseado; y la computación evolutiva que pretende una evolución de los algoritmos inspirados en la evolución biológica, para ello se generan múltiples posibles soluciones y se analizan automáticamente descartando las menos eficientes.

Aunque, como hemos señalado anteriormente, se tiende a agrupar la robótica y la inteligencia artificial en la misma área de conocimiento es necesario separar ambas. La robótica se puede definir como el campo científico y de la ingeniería que trata con el diseño, construcción, operación y aplicación de máquinas electro-mecánicas con sensores y activadores que le permiten interactuar con el mundo exterior, o, también se puede definir, como cualquier máquina que trabaja por sí mismo, automáticamente, después de ser programada por humanos20. Aunque no todo robot necesita ser programado, por ejemplo, los de un único eje no lo necesitan, sí es cierto que la confusión deriva en que los robots más desarrollados son programados y, algunos de ellos, son guiados por decisiones realizadas por inteligencia artificial. Para el objeto de nuestro trabajo, podemos considerar la definición utilizada en el proyecto SIENNA como un inicio que nos permita diferenciar los dos campos. Con este fin definiremos robot como una maquina electro-mecánica con sensores y activadores que puede moverse en su entorno y realizar tareas autónomas o semiautónomas21. Dos son las diferencias básicas con respecto a la inteligencia artificial: son máquinas tangibles y están dispuestos de sensores y activadores con la función de obtener información del entorno en el que se manejan. Dejamos fuera de este campo máquinas electrónicas con sensores y activadores, como tostadoras o máquinas de café ya que no son autónomos o semiautónomos22. Por autónomos se entiende la posibilidad de operar en el mundo real sin necesidad de la acción de un humano una vez son activados o, al menos, en algunas áreas por algún periodo de tiempo23. Para lo que nos interesa en este trabajo un robot se diferencia de la inteligencia artificial porque se encuentra en el mundo físico a diferencia de esta que se encuentra en componentes electrónicos y es no tangible24. Además, existen instrumentos híbridos, que no es otra cosa que un soporte físico controlado por una inteligencia artificial, que vamos a denominar robots controlados por inteligencia artificial.

En la actualidad hay un gran desarrollo de documentos institucionales con definiciones sobre inteligencia artificial, con el gran reto, como podemos observar, de sistematizar un campo tan extenso y que evoluciona tan rápido que es complicado poder enfocarlo. Para los objetivos de este trabajo vamos a centrarnos en dos de ellos. El primer documento que vamos a tratar es el de la Asociación por el avance de la inteligencia artificial (Association for the Advancement of Artificial Intelligent, AAAI), probablemente, la institución con mayor prestigio en el campo de la inteligencia artificial. En el informe que realizó en 2016 la definió como “la disciplina científico-técnica que se ocupa de la comprensión de los mecanismos subyacentes en el pensamiento y la conducta inteligente y su incorporación en las máquinas”25 que desde el punto de vista de la ingeniería puede ser suficiente para abarcar todos los diferentes aspectos que van surgiendo en la disciplina pero desde el punto de vista jurídico no cubre las necesidades que nos van a surgir en el mundo del Derecho. El segundo documento es el realizado por OCDE, que considera un sistema de inteligencia artificial es un sistema basado en máquina que puede, para un conjunto de objetivos definidos por humanos, realizar predicciones, recomendaciones o decisiones influidas por entornos virtuales o reales. Los sistemas de inteligencia artificial están diseñados para operar con diferentes niveles de autonomía26. Como podemos observar, encontrar una definición que sintetice un campo tan amplio es más complicado que encontrar el Santo Grial.

Para entender el trabajo herculino de concretar un concepto27 podemos detenernos en el enfoque que realizan Macnish, Ryan y Stahl, en que parten de una definición muy genérica, parecida a la realizada por la OCDE, considerando a la inteligencia artificial como aquellas tecnologías con la capacidad de realizar tareas que requerirían de inteligencia humana, como pueden ser la percepción visual, el reconocimiento de habla o la traducción de lengua28, para continuar con la diferenciación entre inteligencia artificial general y concreta, que ya hemos visto anteriormente. Basándose en un estudio global sobre inteligencia artificial realizado por Elsevier29, resaltan que se debe de establecer la definición dependiendo del campo concreto en el que es utilizada y no centrándose en una definición genérica lo que nos lleva a la falta de claridad de la misma cuando se lleva a un campo concreto30. En este aspecto podemos diferenciar cuatro campos (olas) generales de aplicación de la inteligencia artificial: la inteligencia artificial de internet, la inteligencia artificial del negocio, la inteligencia artificial de la percepción y la inteligencia artificial autónoma31, lo que permite adaptar el concepto de la inteligencia artificial en campos dependiendo del tipo y de los datos que va a necesitar. Así, la inteligencia artificial de internet empezó en la primera mitad de la primera década del S. XXI con los algoritmos recomendadores de contenidos, los editores de contenidos o los generadores de fake news. La segunda es la relacionada con su utilización para gestionar las empresas, los sistemas de crédito de los bancos, publicidad personalizada. La tercera está desarrollándose en sistemas de visión, reconocimiento facial y lingüístico, o los chatboots. Finalmente, la cuarta está en conexión con los sistemas automáticos como puedan ser los coches o la robótica aplicada a la agricultura.

Desde la ciencia jurídica no existen grandes aportaciones a la definición de inteligencia artificial. Se da por sentado que el concepto está claro cuando en realidad, como estamos viendo, no es así. Una de estas aportaciones más fructíferas es la analizada por Hallevy, que realizó una aproximación al concepto centrándose en la idea de inteligencia. Según este autor para ser inteligente es necesario tener cinco atributos: una capacidad de comunicación, tener un conocimiento interno, tener un conocimiento externo, mostrar un comportamiento dirigido a la obtención de objetivos y, el quinto, creatividad32. Estos cinco atributos no se encuentran bien desarrollados. Así, la capacidad de comunicación la puede tener un perro con un humano pero es muy limitada. El conocimiento interno implica tener un conocimiento por sí mismo, mientras que el conocimiento externo es la capacidad de conocer sobre el entorno externo. La capacidad de conseguir objetivos implica la realización de acciones para conseguirlos, mientras que la creatividad la entiende como la capacidad de cambiar de acción cuando una falla. Estas cualidades las podemos encontrar fácilmente en la inteligencia artificial: es capaz de comunicarse con seres inteligentes, en muchos casos mejor que un perro; tiene un conocimiento interno, el algoritmo y sistema base de funcionamiento; es capaz de procesar datos del entorno externo, en muchos casos mejor que los humanos; resuelve objetivos concretos, de hecho, es su finalidad; y tiene una creatividad, entendida tal y como es definida por este autor. La definición de inteligencia artificial tendría estas cinco cualidades.

Recientemente, el grupo de expertos de alto nivel en inteligencia artificial de la Comisión Europea ha redactado un documento intentando enmarcar el concepto de inteligencia artificial. Uno de los primeros puntos que resalta es la dificultad de definir lo que es la inteligencia, tanto en humanos como en máquinas, ya que se trata de un concepto vago. Es por ello, que en un cambio de enfoque, prefieren centrarse, aunque no exclusivamente, en el concepto de racionalidad, entendida como la habilidad de elegir la mejor opción para conseguir un determinado objetivo, dados determinados criterios y los recursos disponibles. Otro punto interesante de partida es que no hablan de inteligencia artificial per se sino que prefieren utilizar el término sistema de inteligencia artificial para definir a cualquier componente basado en inteligencia artificial, ya sea software o hardware. Esta decisión se basa en la inteligencia artificial se encuentra como un componente incluido en sistemas mayores más que como un único elemento33.

Continúa el documento con algunas definiciones que hemos tratado anteriormente (aprendizaje de máquina, inteligencia, inteligencia artificial general o específica, etc.) para, finalmente, aportar su definición de inteligencia artificial: “Sistemas de inteligencia artificial son sistemas de software (y posiblemente, también, de hardware) diseñados por humanos que, dado un objetivo complejo, actúa en la dimensión física o digital mediante la percepción de su entorno, adquiriendo de datos, interpretando datos estructurados y desestructurados, razonando el conocimiento o procesando la información derivados de estos datos y decidiendo la/s mejores acción/es para conseguir el fin perseguido. Los sistemas de inteligencia artificial pueden usar reglas simbólicas, aprender un modelo numérico o pueden adaptar su comportamiento analizando como el entorno se ve afectado por sus acciones previas”34.

Esta definición incluiría los dos tipos de inteligencia artificial anteriormente descritos, la basada en el conocimiento y la basada en datos, pero incidiendo en un factor hemos señalado anteriormente, que el auge en la tercera revolución de la inteligencia artificial es debido al auge de procesamiento de datos por los factores anteriormente descritos.

Para entender cómo va a afectar al mundo del Derecho y como se va a tener que lidiar en el sistema judicial cuando lleguen los problemas serios, nos podemos quedar con algunos puntos interesantes.

El primero y muy importante es entender que la inteligencia artificial es una herramienta creada por las personas. Esto implica que aunque pueda crear cosas (entre ellas más inteligencias artificiales o incluso a sí mismas) siempre va a ser mediante unos patrones impuestos por los humanos, que son el origen.

El segundo es que los algoritmos de toma de decisiones de los sistemas de inteligencia artificial se alimentan de datos. Es por esto que la privacidad se encuentra en grave riesgo por la capacidad de procesamiento y el cruzado de bases de datos que se desarrollan con estos sistemas inteligentes. Y de ahí el mercado que hay con los datatraders, vendedores y compradores de datos, que obtienen sustanciales ganancias a consta de los datos de los usuarios de diferentes servicios y aplicaciones.

Un tercer punto de interés para los juristas es que cada sistema de inteligencia artificial tiene un objetivo determinado en su función. Esta característica dentro del concepto de inteligencia artificial concreta es importante puesto que limita mucho los problemas a los que nos vamos a encontrar y facilita la sistematización de los mismos. Así, el acotar el ámbito de aplicación también permite concentrases en medidas para evitar un impacto negativo en los derechos fundamentales de los ciudadanos, facilitando las medidas exigidas de protección al estar el ámbito de actuación muy limitado.

Por último, la definición del grupo de altos expertos, aunque no lo numera expresamente, indica que los sistemas inteligentes no son capaces de adivinar lo imprevisto ni de crear algo de la nada. Todo aprendizaje, intento de predecir el futuro o realización de tareas se basa en precedentes que pueden venir de los datos o de situaciones que dan información de supuestos parecidos anteriores pero no es capaz de actuar de forma efectiva ante situaciones completamente nuevas. Hay que descartar, en el análisis jurídico, cualquier intento de equiparar las acciones de los humanos con las de los sistemas inteligentes por muy eficaces que puedan ser. Hoy por hoy, no existe un sistema inteligente capaz de reaccionar como un humano, aunque puede realizar tareas humanas con mayor eficacia. Por poner un ejemplo, los coches autónomos tienen serias dificultades de identificar señales de tráfico cuando las situaciones no son ideales. Así, que una señal esté doblada o que tenga pegatinas en su superficie hace que el vehículo no sea capaz de identificarla de forma apropiada35. Lo que para un humano es un problema que se resuelve sin pensar para una máquina puede no tener solución que, en la vida real, sí puede tener un impacto jurídico importante.

Un nuevo concepto que deriva de las directrices éticas es el de inteligencia artificial fiable que ha publicado en 2019 la Comisión Europea. Para que se considere como tal se han de cumplir los siete requisitos que enumera. Estos siete principios nos dan idea de los requisitos que van a ser de interés para los juristas para comprender y evaluar la incidencia legal de estos sistemas. La acción y supervisión humanas van a trasladar la responsabilidad hacia las personas, ningún sistema debe tomar decisiones autónomas sin el control por parte de un humano. Se exige una solidez técnica y de seguridad para impedir que el sistema sea defectuoso ni que pueda ser dañado o alterado en su funcionamiento lo que implica unas medidas de cuidado a la hora de desarrollarlos. Los sistemas inteligentes en su gran mayoría se alimentan de datos que va a derivar en la obligación de gestionar los datos y la privacidad en su uso. La exigencia de transparencia implica que la toma de decisiones se explicable, se pueda entender por qué el sistema da una determinada solución, que se sepa cuál es su finalidad y la capacidad que posee. Debe ser equitativo, no discriminatorio y pensar en la diversidad de grupos de una sociedad. Los bienes colectivos de medio ambiente, sostenibilidad, impacto social y democracia deben tenerse en cuenta en su desarrollo y uso. Finalmente, ha de tenerse una rendición de cuentas que implica que el sistema ha de ser auditable, que minimice los efectos negativos y en el caso en que se produzcan notificarlos, buscar equilibrios entre su uso y los riegos que van aparejados y, para terminar, gestionar las compensaciones que deriven de su uso36.

Algunos de estos requisitos están ya incluidos en los sistemas jurídicos nacionales y el la normativa internacional de respeto a los Derechos Humanos, luego no son elementos extraños. Sin embargo, la actuación de la justicia ante los problemas que plantea la inteligencia artificial está siendo más bien escasa37, principalmente porque un elemento tan abstracto y difícil de definir, como es un sistema inteligente, tampoco es fácil de controlar ni de verlo en acción en el momento en que se producen los resultados negativos de su actuación. Para intentar comprender cuáles son sus usos y los riesgos que pueden llevar aparejados vamos a analizar diferentes casos reales que se han producido en el siguiente apartado.

2. JANSEN, P., BROADHEAD, S., RODRIGUES, R., WRIGHT, D., BREY, P., FOX, A., WANG, N., SIENNA D4.1 State of the art Review, WP4 – AI & Robotics, Deliverable SIENNA project, 2018, p. 12.

3. LEE, K. F. AI Super-powers. China, Silicon Valley, and the new world order, Houghton Mifflin Harcourt, Boston- New York, 2018, p. 6.

4. GUINCE, J. “Designing the future: the culture of new trends in science and technology”, Research Policy, 28, 1999, p. 88.

5. MAYER-SCHONBERGER, V., CUKIER, K., Big Data. A revolution that will transform how we live, John Murray, 2013, p. 6.

6. LEE, K. F. AI…, cit., p. 14.

7. Barcelona Declaration for the Proper Development and Usage of Artificial Intelligence in Europe, ver. 1, 2017, p. 2.

8. RUSSEL, S., NORVIG, P., Artificial Intelligence. A Modern Approach. Prentice Hall, 2010, p. 2 y ss.

9. SÁNCHEZ BARRILAO, J. F., “Derecho constitucional, desarrollo informático e inteligencia artificial: aproximación a la propuesta del Parlamento Europeo a favor de una regulación sobre robótica” en VALLS PRIETO, J., Retos jurídicos por la sociedad digital, Aranzadi, 2018, p. 23.

10. MIRÓ LLINARES, F., “Inteligencia artificial y justicia penal: más allá de los resultados lesivos causados por los robots” en RDPC, vol. 20, 2018, p. 88.

11. Uno de los problemas que nos encontramos al abordar el concepto de inteligencia artificial es la cantidad de nombres que se utilizan para describir un mismo fenómeno. A lo largo de este trabajo veremos varias situaciones que pueden generar confusión. En este caso concreto nos encontramos con las definiciones de general AI, para la que hemos considerado inteligencia artificial general, y narrow o weak AI para la específica. Así, podemos encontrar multitud de textos en los que los conceptos de narrow y weak se mezclan generando un poco de confusión. En este texto vamos a considerarla como específica.

12. BROUSSARD, M., Artificial Unintelligence, MIT press, 2018, p. 32.

13. JANSEN, P., BROADHEAD, S., RODRIGUES, R., WRIGHT, D., BREY, P., FOX, A., WANG, N., SIENNA D4.1…, cit., p. 13.

14. BROUSSARD, M., Artificial…, cit. p. 32.

15. JANSEN, P., BROADHEAD, S., RODRIGUES, R., WRIGHT, D., BREY, P., FOX, A., WANG, N., SIENNA D4.1…, cit., p. 17.

16. MIRÓ LLINARES, F., “Inteligencia…”, cit., p. 89.

17. LEE, K. F. AI…, cit., p. 7.

18. RYAN, M., BREY, P., MACNISH, K., HATZAKIS, T., KING, O., MAAS, J., HAASJES, R., FERNANDEZ, A., MARTORANA, S., OLUOCH, I., EREN, S. AND VAN DER PUIL, R., SHERPA Deliverable 1.4 Report on ethical tensions and social impact, Deliverable SHERPA project, 2019, p. 11.

19. En España se han denominado sistemas robóticos pero creo que es una definición que no abarca bien los conceptos de lo que es la inteligencia artificial en sistemas físicos. Cfr. BARRIO ANDRÉS, M., “Robots, inteligencia artificial y persona electrónica” DE LA CUADRA SALCEDO, T., PIÑAR MAÑAS, J. L., Sociedad digital y Derecho, BOE, 2018, p. 113.

20. JANSEN, P., BROADHEAD, S., RODRIGUES, R., WRIGHT, D., BREY, P., FOX, A., WANG, N., SIENNA D4.1…, cit., p. 19.

21. Ibíd. 20.

22. Este tipo de máquinas con toman decisiones por sí mismas, depende completamente de la actuación de un humano para operar.

23. BEKEY, G.A., “Current Trends in Robotics: Technology and Ethics”, en LIN, P., KETIGH, A. Y BEKEY, G. A., Robot Ethics: The Ethical and Social Implications of Robotics, MIT Press, 2012, p. 18.

24. Ibíd.

25. ASSOCIATION FOR THE ADVANCEMENT OF ARTIFICIAL INTELLIGENCE, Artificial Intelligence and life in 2030, 2016, [Consultado 27/02/2020] https://ai100.stanford.edu/2016-report/section-i-what-artificial-intelligence/defining-ai.

26. OECD, Recommendation of the Council on Artificial Intelligence, OECD/LEGAL/0449, 2019, p. 7.

27. TORRES CARRILLO, M. “La gobernanza de la inteligencia artificial: contexto y parámetros generales”, REEI, vol. 39, 2020, p. 6.

28. STAHL, B., KEVIN, M., & MARK, R. “Understanding Ethics and Human Rights in Smart Information Systems”, ORBIT Journal, 2(1), 2018, p.3 y 4 [Consultado 12/11/2020] https://www.sciencedirect.com/science/article/pii/S2515856220300079?via%3Dihub.

29. ELSEVIER. ArtificiaI Intelligence: How knowledge is created, transferred, and used -Trends in China, Europe, and the United States. Elsevier, 2018, p. 24 y ss.

30. STAHL, B., KEVIN, M., & MARK, R. “Understanding…”, cit., p. 4.

31. LEE, K., “AI…”, cit. p. 105 y ss.

32. HALLEVY, G. “The criminal liability of artificial intelligence entities from science fiction to legal social control” Akron Intellectual Property Journal, 2010, vol. 4(2), p. 175.

33. INDEPENDENT HIGH-LEVEL EXPERT GROUP ON ARTIFICIAL INTELLIGENCE, A Definition of AI: Main Capabilities and Disciplines, European Commission, 2019, p. 1 [Consultado 02/03/2020] https://ec.europa.eu/digital-single-market/en/news/definition-artificial-intelligence-main-capabilities-and-scientific-disciplines.

34. Ibíd., p. 6.

35. BROUSSARD, M., Artificial…, cit., pp. 125 y ss.

36. COMISIÓN EUROPEA, Grupo independiente de expertos de alto nivel sobre inteligencia artificial, Directrices éticas para una IA fiable, Comisión Europea, 2019, p. 18. [Consultado 02/03/2020] https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai.

37. Destaca la sentencia en los Tribunales holandeses en los que se castiga la utilización de sistemas inteligentes para perseguir el fraude a las ayudas públicas de los más pobres por parte del gobierno holandés por discriminatorio. [Consultado 5/02/2020] https://www.theguardian.com/technology/2020/feb/05/welfare-surveillance-system-violates-human-rights-dutch-court-rules.