Читать книгу Los mercados financieros ante la disrupción de las nuevas tecnologías digitales - Mauricio Baquero Herrera - Страница 17

Además de la reglamentación existente con relación a la protección de datos personales, el derecho comparado ha desarrollado un modelo marco de principios rectores, el cual propone estructuras y medidas de gobernanza interna de cara a la participación humana en la toma de decisiones de inteligencia artificial. De esta manera se sugiere que ante la penumbra que puede existir entre jurisdicciones y sectores industriales, se adopten principios éticos en prácticas organizacionales para el intercambio de datos¹³⁶.

En consecuencia, para la promoción del uso responsable de la inteligencia artificial resulta conveniente contar con una estructura corporativa ajustada a medidas de gobernanza internas, de acuerdo con las cuales se incorporen valores, riesgos y responsabilidades en la promoción y uso de algoritmos en el ejercicio del objeto social¹³⁷.

Si bien estas son consideraciones éticas, es posible integrar estas buenas prácticas como un valor corporativo y acoplarlo al cumplimiento del principio de responsabilidad demostrada, propio de nuestro ordenamiento jurídico. No se puede pasar por alto que “la ética permite a las organizaciones anticiparse y evitar o al menos minimizar errores costosos”¹³⁸. Al respecto, Mark Coeckelbergh señala que el derecho tendrá que involucrar estrategias regulatorias más fuertes sobre el uso de prácticas que van contra la ética en la inteligencia artificial, pero que en el entretanto, las medidas tecnológicas, los códigos de ética y la educación pueden exteriorizar un ecosistema de transparencia¹³⁹.

De hecho, la supervisión apropiada respecto de la implementación de la tecnología facilita una mejor gestión de riesgos asociados con el uso excesivo o inadecuado de inteligencia artificial¹⁴⁰. Se trata de promover las garantías fundamentales mediante el fomento de la agencia humana, sin eliminar la responsabilidad propia de la start-up.

La gobernanza ética de los sistemas de inteligencia artificial es entonces un aspecto que deben tener en cuenta las fintech, pues el uso de estos sistemas expone problemas de transparencia, responsabilidad, control y explicabilidad algorítmica, que en todo caso pueden vulnerar los derechos humanos y desafiar la intervención del Estado en la economía¹⁴¹. En tal sentido, la adopción de programas de cumplimiento que relacionen el componente tecnológico (más allá de la protección de datos netos), crea un entorno de confianza y de responsabilidades claras con los usuarios y los entes de control¹⁴².

Por lo tanto, la start-up puede crear un órgano de coordinación que asigne responsabilidades y actividades al personal relacionados con el despliegue y uso de algoritmos automatizados que, para la consecución de los fines ya expuestos, comprendan el núcleo esencial de la protección a la privacidad y reciban la orientación necesaria para surtir los posibles efectos adversos de su uso¹⁴³. Así mismo, tiene que surtirse de procedimientos internos para determinar las decisiones que serán automatizadas, evaluar y gestionar la inexactitud o sesgos dentro del algoritmo y estar en capacidad de ofrecer explicaciones sobre las predicciones o modelos propios del diseño de la IA¹⁴⁴.

Para facilitar la adopción de esta iniciativa, el gobierno de Singapur optó por crear una auditoría de seguridad que complemente a las organizaciones en la evaluación y alineación de sus prácticas y procesos de gobernanza. El modelo analiza la complejidad tecnológica de las start-ups y la probabilidad de impacto de una decisión autónoma en los derechos individuales¹⁴⁵.

Dicho lo anterior, se puede recalcar que la gobernanza ética de los sistemas de inteligencia artificial son un presupuesto para los programas de cumplimiento en las fintech, pues el uso de estos sistemas expone problemas de transparencia, responsabilidad, control y explicabilidad algorítmica, que pueden llegar a vulnerar derechos humanos y a desafiar la intervención del Estado en la economía.