Читать книгу Retos del mercado financiero digital - Belén Andrés Segovia - Страница 18

Como señalaba antes, hoy en 2021 la inteligencia artificial busca encontrar patrones y sustituye comprensión por predictibilidad. Además, en el estado de la técnica actual se producen una serie de colisiones con el Derecho. De este modo, podemos señalar cuatro grandes problemas jurídicos que presenta la IA.

El primero es la opacidad de los algoritmos. Como ha estudiado entre nosotros GARCÍA-PRIETO CUESTA3 en el capítulo primero del libro Derecho de los Robots, estos son cajas negras y, además, en los modelos más avanzados de las redes neuronales profundas no sabemos cómo los modelos aprenden, no sabemos cómo el algoritmo ve la realidad e interpreta los datos, ni cómo adopta las decisiones y, además, es técnicamente imposible. En los modelos más avanzados de IA es inviable revertir el proceso de decisión.

El segundo bloque de problemas se produce por los defectos en los datos que alimentan los sistemas. Como avancé atrás, el aprendizaje del machine learning es muy costoso, exige grandes cantidades de datos. El problema de los datos es que muy pocos sujetos tienen acceso a los conjuntos de datos con la calidad adecuada. Y es que los datos son incompletos, reflejan la realidad y, por supuesto, también reflejan los sesgos, las discriminaciones de la sociedad e incluso, de igual modo, las preferencias conscientes o inconscientes del grupo de sus diseñadores. Y los resultados son predicciones, no ofrecen causalidad.

El tercer gran bloque de problemas tiene que ver con la seguridad. Apuntaba antes que el resultado de los algoritmos es impredecible; de los más avanzados no se puede conocer cómo van a funcionar y adoptar las decisiones. Además, los avances en IA superan los límites de la mente humana. No tenemos una mente capaz de comprender semejantes procesos. Asimismo, es imposible garantizar un estado de ciberseguridad total, y de la misma forma que existen soluciones basadas en inteligencia artificial para protegernos de ciberamenazas, los cibercriminales también utilizan inteligencia artificial para sus estafas y para sus cibercrímenes.

El cuarto tipo de problemas se produce con la intimidad y la protección de datos. Aparecen nuevas formas de tratamiento de los datos, nuevas formas cuyas consecuencias no conocemos porque no están basadas en la lógica o en las capacidades de la mente humana. Además, no siempre se garantiza el principio de transparencia, en cuya virtud los interesados tenemos derecho a conocer la existencia de sistemas de IA que influyen sobre nuestra posición jurídica (arts. 22 RGPD y 11 LOPDGDD).