Читать книгу Los mercados financieros ante la disrupción de las nuevas tecnologías digitales - Mauricio Baquero Herrera - Страница 30

Conviene hacer ahora una breve alusión a lo que se observa en la evolución de la inteligencia artificial en el ámbito colombiano. Para ello, el Ministerio de las TIC, junto con la Cámara de Comercio de Bogotá, promovieron el estudio de digitalización realizado por parte del Observatorio de Economía Digital, mediante el cual se evidenció un mayor uso de tecnologías maduras –se pasó del 26 % en 2015 a un 55 % en 2017– y que solo el 1,8 % de las empresas aprovecha la inteligencia artificial. De otra parte, en documento del Consejo Nacional de Política Económica y Social (Conpes) 3975 de 2019, el Departamento Nacional de Planeación, como se dijo atrás, estimó que la implementación ampliada de la inteligencia artificial podría significar un crecimiento mínimo anual de 4,5 % del Producto Interno Bruto (PIB) durante los próximos 10 años.

Frente a la interrelación entre la inteligencia artificial y el tratamiento de datos, en mayo de 2019 Colombia suscribió la “Recomendación del Consejo de la Organización para la Cooperación y el Desarrollo Económicos (OCDE) sobre Inteligencia Artificial (IA)”, durante la reunión anual del Consejo Ministerial de dicha organización, cuyo tema fue “Aprovechando la transición digital para el desarrollo sostenible”. En dicho documento se menciona la importancia de contar con marcos legales en los cuales se integren de manera armónica los desarrollos de la inteligencia artificial con los derechos humanos, la protección de datos personales y del consumidor, los derechos de propiedad intelectual, la conducta empresarial responsable y la competencia.

En lo que respecta a la protección de datos, la Delegatura para la Protección de Datos Personales de la Superintendencia de Industria y Comercio, autoridad colombiana en esta materia, ha reconocido la aplicación de la declaración relativa a la ética y protección de datos en inteligencia artificial. En ella se pone en evidencia el estrecho vínculo existente entre la recolección y conservación, el uso y la revelación de datos personales, y el desarrollo de la inteligencia artificial. Esta declaración se dio a conocer en la 40ª Conferencia Internacional de Comisionados de Protección de Datos y Privacidad. En su contenido se plasmaron los siguientes principios:

- Los sistemas de inteligencia artificial deben ser desarrollados, con especial atención a los efectos que ello puede generar en la sociedad, y dándole primacía al respeto de los derechos humanos fundamentales.

- Debe trabajarse de manera constante en la transparencia y en la claridad de los sistemas de inteligencia artificial.

- Debe procurarse un balance entre la innovación en inteligencia artificial y derechos humanos, y por lo tanto su desarrollo y estructura debe impedir clasificaciones y categorizaciones discriminatorias.

Adicionalmente, en el documento “Recomendaciones generales para el tratamiento de datos en la inteligencia artificial”⁸⁵ de la Red Iberoamericana de Protección de Datos, se recomienda a las empresas desarrolladoras efectuar estudios de impacto de privacidad o Privacy Impact Assessment (PIA). Con ello se busca que las empresas introduzcan en el proceso de diseño y desarrollo de la inteligencia artificial la privacidad desde el diseño y por defecto. De acuerdo con dicho documento, la privacidad por diseño “promueve la visión de que el futuro de la privacidad no puede ser garantizada sólo por cumplir con los marcos regulatorios; más bien, idealmente el aseguramiento de la privacidad debe convertirse en el modo de operación predeterminado de una organización”.

Otro de los puntos álgidos es el relativo a los retos jurídicos impuestos por eventuales perjuicios derivados del uso de la inteligencia artificial, y el régimen de responsabilidad aplicable en caso de que se deriven del empleo de esta tecnología, incluso para sus desarrolladores, cuando ocurre un siniestro derivado de fallas técnicas. En otras legislaciones, como en Reino Unido, se ha llegado a legislar este punto en materia de seguros estableciéndose en el Automated and Electronic Vehicles Act (AEVA) exclusiones de la póliza por fallas en el software, debido a omisiones o actuaciones del asegurado de cara al cuidado y mantenimiento del sistema operativo, como cuando, por ejemplo, no realiza actualizaciones del software. En Alemania se ha establecido que la responsabilidad en estas situaciones debe ser imputada a los productores de vehículos. En cuanto a Colombia, aún se discute cuál sería el mejor régimen aplicable; sin embargo, en aras de hacer un breve comentario sobre el particular, procede mencionar que el régimen de responsabilidad del guardián de la cosa pareciera ser el aplicable. Para ello, el guardián es definido como aquel que tiene el uso, control y dirección de la cosa⁸⁶ y de conformidad con la jurisprudencia de la Corte Suprema de Justicia de Colombia, se presume que el propietario de la cosa es su guardián y, por lo tanto, la víctima puede iniciar su acción contra él⁸⁷. Estamos entonces ante un régimen objetivo de responsabilidad.

Ahora bien, no todos los sistemas de inteligencia artificial requieren del control por parte de un ser humano. Existen algunos sistemas automáticos que prescinden de él para su funcionamiento y de existir un siniestro habría dificultades en la imputación de responsabilidad. No existe, pues, una regla expresa en el ordenamiento jurídico colombiano para hacerlo.

No obstante, resulta pertinente acudir en estos casos a las normas sobre la responsabilidad por producto defectuoso, régimen de conformidad con el cual sería posible imputar responsabilidad del daño al productor o distribuidor de dispositivos robóticos generadores de los daños en cuestión. Para el efecto, habría que aplicar el Estatuto de Protección del Consumidor –Ley 1480 de 2011–, norma en la cual se consagró la obligación de seguridad frente al consumidor y que además de objetiva es solidaria, siendo posible su exigencia por parte del productor y del proveedor o distribuidor.