Читать книгу Políticas públicas y regulación en las tecnologías disruptivas - Группа авторов - Страница 13

Disruptive technologies as a tool and action field for public administration

RESUMEN

A medida que los gobiernos implementan tecnologías disruptivas para facilitar la toma de decisiones y mejorar sus relaciones con los ciudadanos, también crecen los temores alrededor del uso de Inteligencia Artificial a través de algoritmos, machine-learning y analítica de Big Data, para regular y adjudicar derechos desde la Administración pública. Estas preocupaciones atañen desde la incapacidad del Estado para regular eficaz y oportunamente estos avances tecnológicos, hasta la opacidad y la dificultad de estas herramientas disruptivas para satisfacer las exigencias derivadas de los principios constitucionales y legales que rigen el ejercicio de la función administrativa. Esta investigación explora la implementación de tecnologías disruptivas en la Administración pública colombiana, los retos y límites que enfrenta, así como las alternativas que permitirían disminuir riesgos asociados a estas.

PALABRAS CLAVE

Administración pública; Big Data; Inteligencia artificial; Regulación; Gobernanza digital.

ABSTRACT

As governments implement disruptive technologies to facilitate decision-making and improve their relationship with citizens, fears grow around the use of artificial intelligence through machine-learning algorithms and Big Data analytics in Public Administration to regulate and grant rights. These concerns range from the inability of the State to regulate these technological advances in an efficient and timely manner, to the difficulty of these disruptive tools to satisfy the demands derived from the constitutional and legal principles that govern the exercise of the administrative function. This research explores the implementation of disruptive technologies in the Colombian Public Administration, the challenges and limits it faces, and the alternatives that would reduce associated risks.

KEYWORDS

Public Administration; Big Data; Artificial Intelligence; Regulation; Digital Governance.

INTRODUCCIÓN

El uso de tecnologías digitales basadas en la construcción, análisis, aprendizaje automático y explotación de datos se expande de forma acelerada a todos los sectores e industrias. Esta rápida difusión, con profundas implicaciones para las sociedades humanas contemporáneas¹, excede la capacidad de respuesta de los actores encargados de su ordenación (Erdelyi & Goldsmith, 2018). Aunque la irrupción de nuevas tecnologías como la Inteligencia Artificial o los macrodatos (Big Data) facilita el intercambio entre la oferta y la demanda en mercados consolidados² o recién organizados bajo actividades económicas, incluso de interés general³, ellas también constituyen actividades productivas diferenciables susceptibles de ser reguladas.

Como función, la regulación cuestiona la representación que se tiene del Estado⁴, asimilándola a una intervención general en la economía que atiende diversos fines y es capaz de designar numerosas actuaciones⁵. Dentro de estas intervenciones, se ubica una función específica de organización de actividades productivas para lograr condiciones de competencia y corrección de fallas presentes en mercados que, como la Inteligencia Artificial o la explotación con fines comerciales de macrodatos, se caracterizan por fuertes externalidades positivas y negativas, sociales y económicas⁶. Se trata de encontrar equilibrios entre desarrollo económico y rentabilidad y otros imperativos de interés general, como la propiedad industrial o la protección de usuarios, y asegurar la progresividad en las políticas públicas de acceso a nuevas tecnologías. Así entendida, la regulación requiere, antes que nada, de la intervención del legislador mediante el ejercicio de su potestad de configuración en materia económica, para determinar el ámbito de acción de la Administración⁷. De esta manera, el ejercicio de funciones regulatorias por parte de autoridades administrativas exige no solo una definición institucional previa por el legislador, que incluya un marco de gobernanza y mecanismos formales de coordinación (Organización para la Cooperación y Desarrollo Económico (OCDE), 2017, p. 3), sino que además se entienda cómo son aprovechadas tecnologías como la Inteligencia Artificial o los macrodatos por la industria, pero también en otros escenarios, como las administraciones públicas.

La definición de estas nuevas tecnologías no es una tarea fácil, si se tiene en cuenta que ellas encierran una variedad de conceptos. En efecto, bajo el término de Inteligencia Artificial se designa un amplio conjunto de métodos, algoritmos y sistemas computarizados que permiten adelantar tareas como el aprendizaje de máquina, razonamiento autónomo, reconocimiento de imágenes y sonidos y procesamiento de lenguaje natural (Von Krogh, 2018, pp. 404-409). Esta tecnología se ha definido también como cualquier dispositivo computacional que perciba su entorno y actúe intentando maximizar el éxito en un objetivo predefinido (Russell & Norvig, 2016). Es así como la expresión abarca términos como el de aprendizaje autónomo (machine learning) (Robinson & Smith, 2018, p. 355), visión computacional (computer vision), y procesamiento de lenguaje natural (natural language processing), entre otros. Pese a que nos referimos a la Inteligencia Artificial como un conjunto de tecnologías que procuran la automatización de tareas⁸, las reflexiones aquí expresadas se centran en la inteligencia de este tipo que es catalogada como estrecha o débil, esto es, aquella orientada a resolver problemas específicos, en oposición a la Inteligencia Artificial fuerte, que aún no es empleada y que, inspirada en la ciencia ficción, podría parecerse a la inteligencia humana para resolver problemas diversos y ser flexible (Turner, 2018).

Siguiendo este enfoque, la Inteligencia Artificial necesita grandes volúmenes de datos para “enseñar” a máquinas y sistemas, a través de procesos de programación, cómo realizar de forma autónoma una tarea. Es precisamente la construcción de datos, a partir de un aumento en la capacidad de procesamiento de computadores, lo que permitió desarrollos importantes de la Inteligencia Artificial en los últimos años, después de décadas de estancamiento⁹. Bajo el término Big Data, la comunidad científica identifica un gran volumen, altas velocidades y a una amplia variedad de activos de información que requieren formas innovadoras y ventajosas para su construcción y procesamiento, de manera que permitan un mayor conocimiento y precisión en la toma de decisiones¹⁰.

Empleados correctamente, los macrodatos y la Inteligencia Artificial pueden ayudar a la legitimidad de la acción administrativa, esto es, al logro de los fines esenciales del Estado, dentro de los cuales está facilitar la participación de todos en las decisiones que los afectan y en la vida económica, política, administrativa y cultural de la Nación¹¹, y a materializar una serie de garantías y principios que buscan que la función administrativa sirva el interés general¹². Como el procedimiento administrativo no constituye únicamente un instrumento de aplicación de la ley democrática, sino que es también el lugar donde se reconocen derechos para el ciudadano y deberes para la Administración (Barnes, 2019, pp. 82-83), el uso de estas nuevas tecnologías puede de igual manera contribuir a promover la transparencia y participación, asegurando una mejor aplicación de la legalidad y de la tutela de los intereses de los particulares. En tanto que usuario de nuevas tecnologías, la Administración pública puede beneficiarse tremendamente en eficacia y capacidad de respuesta frente al ciudadano, aunque enfrenta retos en el control y desarrollo de estas tecnologías.

De acuerdo con los lineamientos de la Organización para la Cooperación y el Desarrollo Económico (OCDE) para Colombia, en el gobierno electrónico el uso de las tecnologías de la información tiene como objeto la mejora de las actividades realizadas por entidades y organismos administrativos (Organización para la Cooperación y Desarrollo Económico (OCDE), 2017, p. 3). Ahora bien, a pesar de algunos resultados obtenidos¹³, el país sigue experimentando una demora en la implementación de políticas para el uso de nuevas tecnologías al interior de la Administración pública, situación que se acentúa al no existir la misma capacidad de asignación de recursos para la consolidación y uso de nuevas tecnologías de la información en todos los municipios y zonas del país (Zárate & Perdomo, 2019, nota 89)¹⁴. De ahí que el atraso de la Administración colombiana frente a estas tecnologías no solo repose en su actividad como regulador de estas industrias, sino que también se refiera a su rol como usuario de las mismas.

Para el cumplimiento de sus misiones, la Administración enfrenta dificultades tales como los tiempos de respuesta frente al acelerado desarrollo de nuevas tecnologías. Asimismo, el contexto económico y social incierto que representa su uso puede llevar al legislador a optar por disponer la forma en que deberá adoptarse tal decisión o resolverse un problema futuro, más que decidir cuál debe ser la solución exacta del caso¹⁵. El procedimiento administrativo aquí se emplea para compensar la pérdida de capacidad de la ley para dirigir la actividad administrativa, por lo que su objeto se localiza tanto en la creación, como en la aplicación del Derecho. Y es justamente al interior del procedimiento de formación del acto de regulación donde las dos caras de la moneda convergen, en la medida en que la apropiación de estas tecnologías por la Administración permitirá contar con informaciones para analizar las razones de conveniencia, la viabilidad jurídica, el costo-beneficio e impacto de la norma regulatoria, evitando así que la misma origine fallas en las industrias tecnológicas sobre las cuales está llamada a intervenir. El presente capítulo pretende identificar, por consiguiente, la forma como el recurso de estas tecnologías legitima su actividad como regulador y como usuario de las mismas, de manera que puedan cerrarse las brechas entre la respuesta de la Administración pública colombiana, como parte de una gobernanza de estas tecnologías, y de los desarrollos tecnológicos que se están originando mayoritariamente en otros ordenamientos jurídicos; jalonados por sectores públicos y privados, y por grandes universidades (Haenlein & Kaplan, 2019; Russell & Norvig, 2016).

A partir del enfoque de la gobernanza digital se persigue identificar las oportunidades y los desafíos en lo relativo a dos tecnologías digitales concretas: datos masivos e Inteligencia Artificial. Se plantea como hipótesis que los principales retos para la Administración pública colombiana como productora y como destinataria de las reglas que integran dicho conjunto están relacionadas con el recurso humano y financiero, así como con la toma de posición en las discusiones éticas y políticas relevantes. A su vez, estas dificultades se explican y se agudizan en buena medida por los vacíos regulatorios y la incapacidad de la Administración pública para dar respuesta a los mismos, esto es, para adentrarse en estos nuevos confines de la regulación.

Las reflexiones acerca de cuáles son los retos que enfrenta esta gobernanza frente a la aparición de una Administración computacional en Colombia, basada en la ciencia de datos y la Inteligencia Artificial, se construyen alrededor de un análisis interdisciplinario y con recursos puntuales al argumento comparado¹⁶, que emplea fuentes normativas, jurisprudenciales, artículos científicos, estudios de organismos públicos y documentos de interés. Las referencias concretas a otros sistemas nacionales y supranacionales en donde los avances tecnológicos han implicado una adaptación de las intervenciones públicas, se acompañan de un análisis de recomendaciones de organismos intergubernamentales. Junto con construcciones teóricas en ciencia política y ciencia administrativa se busca determinar los vacíos existentes en nuestro ordenamiento y revelar las oportunidades y desafíos que las tecnologías en Inteligencia Artificial y macrodatos traen para la Administración como usuaria (I), y como regulador de las mismas (II).

I. LA ADMINISTRACIÓN PÚBLICA COMO USUARIO DE TECNOLOGÍAS DISRUPTIVAS

La Administración pública puede ser el desarrollador de tecnologías digitales disruptivas¹⁷, pero más frecuentemente es el usuario de tecnologías desarrolladas por empresas privadas. Estas pueden ser usadas para ofrecer a los ciudadanos mejores bienes y servicios públicos, o para gestionar y mejorar internamente los procesos y actividades administrativas rutinarias. En ambos casos, la ciencia de datos y la Inteligencia Artificial brindan ventajas para las administraciones, pues los aumentos en eficiencia y eficacia que permiten son indiscutibles, y en ese sentido se espera que los ciudadanos reciban mejores resultados gracias a estas tecnologías. Sin embargo, este conjunto de herramientas presenta también unos retos para las administraciones que, hasta el momento, no están siquiera del todo claros en las discusiones públicas, tanto por su carácter técnico como por el aún imprevisible desarrollo de estas tecnologías. En esta sección se presenta la situación actual en términos de opciones ofrecidas por las tecnologías computacionales para las administraciones y los ciudadanos, y se introduce un análisis crítico de los problemas que estas generan o podrían generar en caso de ser adoptadas por Colombia, país en donde aún no se discuten con el rigor suficiente estas cuestiones¹⁸. En ese sentido, se pretende contribuir a la apertura de una discusión pública a través de una exposición clara de los retos que se presentan en materia social, política y ética, pero también administrativa y económica.

1. LA CIENCIA DE DATOS COMO BASE DE UNA GOBERNANZA DIGITAL

El marco de análisis para abordar este tema es la gobernanza digital (Andrews, 2018; Wang et al., 2018)¹⁹, entendida como el conjunto de decisiones, regulaciones y posiciones que toman los actores relevantes frente a temas de tecnologías digitales disruptivas y de cambio acelerado y los procedimientos y marcos institucionales para tomar dichas decisiones²⁰. Los actores de la gobernanza digital son principalmente gubernamentales, pero también intervienen en ella los ciudadanos, grupos de interés y las empresas que desarrollan el software. Para tener gobernanza digital se requiere entonces que la Administración pública tenga capacidad de entrega de bienes y servicios, capacidad regulatoria, coordinación y capacidad analítica (Andrews, 2018), ya que entre los actores de la gobernanza, el Estado sigue siendo el encargado de conducir y orientar las decisiones y en temas tecnológicos, y de implementar las políticas y crear los marcos regulatorios.

La discusión de la gobernanza digital es crucial para las administraciones del siglo XXI, pues corren el riesgo de ser dejadas de lado por tecnologías que no alcanzan a entender y que pueden afectar al público de maneras muy profundas (por eso el adjetivo disruptivas). La capacidad del Estado, y de la Administración pública en particular, de ser un interlocutor válido y de seguir guiando las regulaciones en estos temas es fundamental para evitar la captura del regulador por las empresas o los abusos frente a los ciudadanos. Uno de los aspectos de ese sistema consiste en la apropiación de tecnologías basadas en la construcción, análisis, aprendizaje automático y explotación de datos por parte de la Administración. La comprensión de este rol requiere identificar la manera en que la ciencia de datos, los datos abiertos, sus aplicaciones y retos inciden sobre la Administración pública colombiana (1.1). Una de estas aplicaciones consiste en servir al desarrollo de la Inteligencia Artificial y sus usos que, aunque aún incipientes y restringidos al sector privado nacional, presentan desafíos para la gobernanza digital con relación a decisiones éticas y políticas frente a estos desarrollos, más inciertos que los anteriores y aún en progreso (1.2).

1.1. VENTAJAS Y APLICACIONES DE LA CIENCIA DE DATOS Y LOS DATOS ABIERTOS PARA LA TOMA DE DECISIONES

Los Estados generan enormes volúmenes de información, simplemente por su operación cotidiana²¹. Junto con el internet y las redes sociales, la información pública ha aumentado de forma exponencial el volumen de datos disponibles. Los algoritmos para encontrar información en ese mar de datos son cada vez más sofisticados y su desarrollo comprende el núcleo de la nueva ciencia de datos o analítica de datos. Los macrodatos, Big Data o ciencia de datos aparecen justamente para la recolección y análisis de conjuntos de informaciones computacionales grandes y complejos, que superan la capacidad de una máquina individual y del software convencional, transformando por tanto la manera de almacenar y procesar datos estructurados y no estructurados²². De hecho, para el sector público, la ciencia de datos aplicable es definida como aquella de “datos de alto volumen que con frecuencia combinan datos administrativos altamente estructurados recopilados activamente por organizaciones del sector público con datos estructurados y no estructurados recopilados continua y automáticamente en tiempo real, que a menudo son creados pasivamente por entidades públicas y privadas a través de sus interacciones en Internet” (Mergel et al., 2016 p. 931). Con los equipos y software adecuados, es posible usar y combinar grandes conjuntos de datos de varias fuentes; aplicar analítica de datos y algoritmos con computación distribuida para manejar tareas de computación muy complejas, y usar los conjuntos de datos para propósitos radicalmente distintos a aquel para el cual se originaron (Mergel et al., 2016; van der Voort et al., 2019). Existen tres grandes tipos de análisis que se pueden hacer con ciencia de datos: históricos (analizar tendencias de comportamientos pasados), predictivos (proyecciones de posibles escenarios futuros basados en estadísticas masivas) y en tiempo real (analizar comportamientos de millones de usuarios o sensores en el momento en que están ocurriendo, como el tráfico).

En el caso particular de la Administración pública, estos datos provienen de usuarios privados, de sensores automáticos y de datos recopilados rutinariamente por el sector público mismo. Esto se puede combinar con las bases de datos tradicionales del gobierno (Mergel et al., 2016). Los analistas de datos pueden entonces sacar conclusiones e identificar tendencias, y luego, en teoría²³, los tomadores de decisión en la Administración pública pueden usar esa información e incorporarla en sus decisiones. Puesto que la Administración pública debe garantizar la prestación de servicios y entrega de productos públicos, la ciencia de datos puede ayudar a crear nuevos bienes y servicios, mejorar la prestación de los existentes y también identificar beneficiarios de manera más eficiente y precisa.

La ciencia de datos se puede usar para detectar irregularidades, por ejemplo, en las áreas de evasión tributaria, enriquecimiento ilícito y fraude a la seguridad social. En los Estados Unidos se emplea también la ciencia de datos para temas de riesgo financiero y control de medicamentos (Mergel et al., 2016). Otras ventajas se aprecian en materia de transporte público, en donde el análisis de tendencias, usuarios, tarifas y otros datos ha permitido hacer más eficientes los tiempos de desplazamiento en las ciudades y evitar congestión, tal como se usó de manera exitosa en Singapur (Maciejewski, 2017). Asimismo, el análisis de redes sociales permite a las administraciones analizar las percepciones de los ciudadanos frente a las políticas públicas y al gobierno en general y medir la aceptación de medidas antes de tomarlas (Maciejewski, 2017). Al interior de la Administración pública, los datos pueden también servir para gestionar mejor los recursos, medir el desempeño de los servidores públicos y optimizar las herramientas de control interno y control de la corrupción²⁴, entre otras ganancias en eficiencia y eficacia.

Tratándose del caso colombiano, se observan algunos desarrollos en ciencia de datos, generación y uso de macrodatos y en datos abiertos de la Administración pública. Con el fin de aumentar el aprovechamiento de datos en el país, se adoptó el Conpes 3920 de 2018, sobre política de explotación de este recurso en el que se plantean tres estrategias: desarrollo de capacidades, cultura de datos y marco jurídico e institucional. Se busca de esta forma desarrollar condiciones para que los datos sean gestionados como activos generadores de valor social y económico, haciendo una diferenciación entre datos privados, personales y públicos, para efectos de regular cada uno de manera distinta. Pese al aporte incremental que este decreto representa para el desarrollo de la política de transformación digital de Colombia, esta estrategia se enfoca en la eficiencia gubernamental, dejando por fuera a otros sectores y a la ciudadanía. A esto se suma que no se trató con profundidad en la estrategia “la transformación digital de manera que Colombia aprovechara las oportunidades y enfrentara los retos relacionados con la 4RI” (Conpes 3975 de 2019).

En cuanto a las aplicaciones prácticas de la ciencia de datos y datos abiertos por parte de la Administración pública colombiana, encontramos casos como el de la Policía Nacional, entidad que desde 2014 cruza información de cámaras, llamadas a la línea 123 y de agentes en las calles. Se trata de un proyecto ambicioso de ciencia de datos que busca prevenir el crimen en el territorio nacional. A su vez, el Departamento Nacional de Estadística (DANE) emplea herramientas de macrodatos y datos abiertos para el monitoreo de los Objetivos de Desarrollo Sostenible y en el Censo Nacional de Población y Vivienda. Otros ejemplos dados por la literatura incluyen al Ministerio de Hacienda y el Departamento Nacional de Planeación (DNP), organismos de la Administración que han hecho análisis usando datos de Google para monitorear actividades económicas (Becerra et al., 2018). De igual modo, se identifican estrategias de ciencia de datos en órganos autónomos como el Banco de la República, y en entidades del sector hacienda como el Departamento de Impuestos y Aduanas Nacionales (DIAN) y la Unidad administrativa especial de Información y Análisis Financiero (UIAF). En la Administración tributaria, la ciencia de datos es usada para cruzar diferentes fuentes de información y evitar la evasión de impuestos.

En materia de apertura de datos y su publicación en línea, se han dado los primeros pasos con la creación del programa datos abiertos (datos.gov.co), creado por la Presidencia de la República durante la pasada administración. Conforme a este programa, las entidades públicas pueden voluntariamente subir conjuntos de datos abiertos que consideren de interés para la ciudadanía. De esta manera, se han puesto a disposición del público más de 10.000 conjuntos de datos de diversas entidades públicas y aspectos de actividad del sector público²⁵. Esto permite análisis como el que López et al. (2018) han realizado sobre la hipertensión en Cartagena, a partir de información de sensores, historias clínicas y otras fuentes y haciendo analítica de datos para prevenir o identificar a tiempo nuevos casos; o el trabajo sobre seguridad vial hecho por Hidalgo et al. (2018), el cual hace recomendaciones muy específicas para reducir los accidentes a bajo costo, enfocando esfuerzos en los puntos álgidos según fuentes combinadas de datos sobre tránsito.

Ahora bien, la Administración puede también ser el usuario de datos generados por otros, para la formulación y evaluación de políticas públicas y de políticas administrativas. Esta tendencia se ha observado en otros países en el marco de la creación de laboratorios de innovación pública centrados en ciencia de datos. Utilizando datos abiertos disponibles de diversas fuentes, estos laboratorios creados en el sector público, a veces en colaboración con actores académicos, se dedican a analizar conjuntos masivos de datos para tomar decisiones y crear nuevos y mejores programas orientados a resolver problemas públicos²⁶. Colombia también ha participado en esta tendencia, con la creación de iniciativas como ViveLab²⁷ y BogoLab²⁸. Sin embargo, estos laboratorios no tienen un uso intensivo de ciencia de datos, dadas las deficiencias que tiene el país en esta materia y los problemas de calidad de los datos y acceso a datos abiertos²⁹. Los macrodatos y la ciencia de datos han mostrado ya su utilidad para las administraciones públicas con resultados mixtos, algunos claramente útiles para agregar valor público y otros todavía en etapa de experimentación y sin haber sido evaluados. Sin embargo, estas tecnologías también han introducido retos grandes para las estructuras burocráticas tradicionales y las culturas administrativas existentes, en particular en los países latinos (Ramió, 2019).

1.2. RETOS DE LA CIENCIA DE DATOS Y LOS DATOS ABIERTOS PARA LAS ADMINISTRACIONES PÚBLICA

Los retos del uso masivo de datos por la Administración pública son éticos, sociales, administrativos, económicos y tecnológicos, derivados del uso del conocimiento por los organismos y entidades que la integran, los procedimientos de toma de decisiones y de formulación de políticas públicas, las estructuras de incentivos, las capacidades y los procedimientos administrativos (van der Voort et al., 2019). Asimismo, los seres humanos son vulnerables a sesgos cognitivos (Arinder, 2016), y las autoridades administrativas tienen desafíos en materia de coordinación al interior de su organización y con otros actores, y en razón de tiempos y recursos escasos para el análisis de toda la información disponible.

La gobernanza digital debe responder a conflictos entre imperativos y valores que se presentan en la Administración debido a las nuevas tecnologías computacionales, ayudar a reducir la incertidumbre que su uso genera, y ambientar las discusiones políticas inevitables que se van a presentar frente a las mismas (Andrews, 2018). En cada una de las dimensiones en que estos retos se presentan, habría que hacer cambios significativos, como implementar la toma de decisiones basada en evidencia, proceso que empezó a discutirse en los años ochenta con la Nueva Gestión Pública (NPM, por sus siglas en inglés)³⁰.

Se evidencia, además, un salto desde el análisis de datos masivos a la creación de valor público, en el cual están incluidas las etapas de formulación de un problema público y la generación de alternativas, las cuales siguen siendo operaciones propias y no reemplazables del elemento humano de la unidad de servicios u organización administrativa. Esto quiere decir que la disponibilidad de más y mejor información por medio de la tecnología no asegura que la toma de decisiones por la Administración sea mejor que antes, ni tampoco la releva de las dinámicas propias a sus misiones, de acuerdo con el conocimiento acumulado de décadas de estudios en la disciplina de la Administración pública. Si la información es un instrumento de calidad regulatoria, su alcance está siempre condicionado por el uso que de la misma hagan los servidores públicos que participan en la toma de decisiones (Carvajal Sánchez, 2013).

Es por tanto un reto contener el optimismo tecnológico extremo, basado en la creencia de que la tecnología resuelve por sí misma problemas que el aparato administrativo no ha sido capaz de resolver. De igual modo, la validez y legitimidad de la decisión final está condicionada al respeto del debido proceso y los principios que orientan el ejercicio de la función administrativa, incluida la participación ciudadana como presupuesto procedimental para el ejercicio de la potestad reglamentaria (Zárate & Perdomo, 2019). Si un análisis de datos ofrece soluciones por fuera de esos marcos o que no sean aceptables socialmente, no sería posible tenerlos en cuenta.

En los aspectos éticos y sociales, el uso masivo de datos que se originan en los ciudadanos genera un reto evidente en lo referente a la privacidad. En este orden de ideas, la protección de datos personales debe hacerse compatible con la recopilación de cantidades masivas de información para el análisis. De este modo, es posible encontrar discusiones tanto académicas como jurídicas sobre cómo asegurar de mejor forma la anonimidad de los datos o la protección de la identidad de los individuos en las bases de datos abiertos. No solo los ciudadanos se oponen a la idea de que el Estado o una empresa privada tengan toda su información, de modo que puedan controlar sus comportamientos, sino que también la hipervigilancia estatal puede conducir a una distopía social, como lo enseña la experiencia China, lugar en donde con un sistema de “puntos” cada ciudadano es monitoreado y sus acciones le dan o quitan puntos; que después le permitirán conseguir trabajo, viajar o acceder a beneficios y programas sociales (Helbing et al., 2017).

En una postura más enérgica, algunos denuncian el uso de la ciencia de datos para incentivar o desincentivar comportamientos en los ciudadanos: a partir de una ciencia del comportamiento y la idea del “empujón” (nudge), podrían orientarse las decisiones individuales hacia lo que la Administración considere como el bien común, pero sin que esto refleje el conocimiento, comprensión o consentimiento de la ciudadanía (Helbing et al., 2017). Se discute por ende la manipulación de electores vía publicidad o consignas en redes sociales ajustadas a las posiciones de cada elector³¹. Por consiguiente, no solo la privacidad es amenazada por la ciencia de datos, sino que otros imperativos, como la libertad de elección, pueden también estar siendo afectados (Helbing et al., 2017). La iniciativa Data for Humanity pretende evitar este tipo de riesgos a través de la colaboración y la apertura de datos, para que se usen estos para el beneficio colectivo (European data portal, 2016).

Al estar estos riesgos vinculados a una correcta utilización de los datos, la Administración requiere contar con el recurso humano capacitado para emplear esta tecnología. Sin embargo, uno de los desafíos para los organismos y entidades de naturaleza pública que tienen a su cargo el ejercicio de la función administrativa y la prestación de servicios públicos radica precisamente en su capacidad para atraer personal formado en tecnologías de la información y en ciencia de datos, pues no existe aún en Colombia una oferta conveniente en estas materias y su calidad sigue siendo baja con relación a la demanda de tecnologías disruptivas (OECD, 2019; Conpes 3290 de 2018). De igual modo, las sociedades pueden generar resistencia al recurso e implementación de estas nuevas tecnologías. Es por esto que el cambio que estas tecnologías representa debe acompañarse de una sensibilización al público sobre los macrodatos y la ciencia de datos y sus aplicaciones, que en todo momento explique cómo se llevó a la toma de decisiones y de dónde provino la información y el análisis. Si bien esto puede aparecer difícil para Colombia, en donde existe una baja cultura de datos, desinformación y desconfianza frente al Big Data (Conpes 3290 de 2018), lo cierto es que el Derecho administrativo ya establece procedimientos encaminados a que las administraciones públicas comuniquen al público la información en la que se fundamentan tanto sus decisiones individuales³², como los proyectos de actos administrativos que pretendan expedir³³. Es a través de estos procedimientos que el control político y judicial de la Administración se posibilita, haciendo efectiva la protección del conjunto de principios que se designan bajo el término de buena administración (Bousta, 2019). A partir de estos procedimientos que atan las administraciones públicas y órganos administrativos independientes a las otras ramas del poder público, algunos autores reclaman el carácter eminentemente procesal de esta disciplina jurídica (Auby J. B., 2006, p. 17). Ahora bien, extender estos requisitos a los procesos computarizados puede ser difícil.

Con el fin de facilitar la participación ciudadana en la toma de decisiones, estos procedimientos requieren la utilización de Tecnologías de la Información y las Comunicaciones (TIC)³⁴ que aún no son accesibles en todas las zonas del país. Entre los desafíos tecnológicos del país se identifican la falta de interoperabilidad de los sistemas digitales de manejo de información³⁵ y la falta de digitalización de documentos análogos o la ausencia de información en formatos abiertos, capaces de ser procesados utilizando el software habitual. En el documento Conpes 3290 de 2018 se mencionan expresamente bajos niveles de datos públicos digitales, de datos abiertos, de interoperabilidad y de digitalización. La producción de datos públicos digitales implica la creación de formularios y canales digitales para ingresar información nueva, en formato digital desde su origen³⁶.

En las etapas siguientes de apertura de formatos con datos y su almacenamiento en un repositorio de acceso público de datos abiertos se avanzó con la creación del portal de datos abiertos. No obstante, esos datos en el portal continúan siendo limitados e incompletos. No es por ejemplo posible encontrar las series temporales de más de cuatro años y la regla general es que se trata de datos de meses o de un año³⁷, los cuales tienen una utilidad limitada en análisis sofisticados de la ciencia de datos. No parece existir ningún incentivo ni obligación para que el Estado colombiano comprometa partidas presupuestales y el recurso humano con los datos abiertos para hacer ciencia de datos, y no simplemente la publicación de información suelta o irrelevante para el público³⁸.

Otros retos que encuentra la Administración pública como usuario de estas tecnologías son de tipo económico, referidos en primer lugar a quiénes se benefician del negocio de la información masiva. Las empresas multinacionales de tecnología tienen capacidades de procesamiento de información superiores a muchos otros actores, de manera que tienen la posibilidad de extraer oportunidades de negocio, como ocurre en materia de publicidad personalizada, gracias al análisis de datos de comportamiento de usuarios en Internet. Asimismo, los ciudadanos de forma voluntaria están entregando sus datos a las empresas de tecnología cada vez que publican su información personal en redes sociales, a veces sin ser plenamente conscientes de ello, lo que permite a estas compañías explotarlos comercialmente sin su consentimiento³⁹. Si bien este aprovechamiento es objeto de una regulación cada vez mayor en zonas como la Unión Europea⁴⁰, en otras regiones del mundo todavía no se protege adecuadamente a las personas ni se limitan los usos de estos datos.

Los programas de macrodatos y datos abiertos encuentran por tanto dificultades para su desarrollo en el país, toda vez que sin calidad de los datos y sin formatos abiertos e interoperables no es posible tener ciencia de datos. La falta de comprensión de esta tecnología y de su impacto sobre la sociedad y en las relaciones entre Administración pública y administrados es un problema para su correcto uso y control. Asimismo, la presión que ejercen las grandes empresas sobre los contratos de software con el Estado, para no mermar la rentabilidad del negocio, y resistiéndose a abrir los formatos y los documentos, contrasta con los esfuerzos de la ley para imponer la transparencia y facilitar el acceso a la información⁴¹. En el caso de la Administración colombiana, la situación se muestra más compleja, dada su baja capacidad y capacitación en tecnología, los escasos recursos que destina a estos temas y la dificultad para la coordinación entre distintos actores públicos fragmentados. A esto se sumaría la falta de organización y de un diseño institucional capaz de aislarla de las injerencias de actores políticos o de grupos de presión públicos o privados (Zárate & Perdomo, 2018), o del cumplimiento de procedimientos que aseguren una mayor participación y control democráticos de los ciudadanos sobre la actividad administrativa. Estas problemáticas se acentúan cuando esos datos son empleados para programar un conjunto de tecnologías encaminadas a la automatización de tareas.

2. LA INTELIGENCIA ARTIFICIAL: ¿MEJOR FUTURO O UNA PESADILLA SOCIAL?

Aunque existe un consenso sobre las ventajas de la Inteligencia Artificial para la sociedad en general y para el sector público en particular⁴², un número creciente de voces denuncia los riesgos, incluso catastróficos, de confiar la supervivencia de la especie humana a una tecnología que no se termina de entender y que podría ser más rápida y racional en la resolución de problemas. Entre estos dos extremos se encuentran posiciones pragmáticas y moderadas que subrayan esos riesgos, así como una mayor acción de gobiernos y administraciones públicas en las discusiones éticas y políticas que lleven a la toma de decisiones y a la regulación de herramientas que permitan adelantar tareas, similares a las que puede realizar la mente humana, de manera autónoma. Se discutirá a continuación el lado positivo y la promesa de la Inteligencia Artificial para la Administración pública (2.1.) y los retos y dilemas que esta plantea (2.2).

2.1. APLICACIONES Y VENTAJAS DE LA INTELIGENCIA ARTIFICIAL PARA LA FORMULACIÓN Y EJECUCIÓN DE POLÍTICAS PÚBLICAS

Los algoritmos de Inteligencia Artificial⁴³ actuales permiten resolver problemas concretos que normalmente son abordados por la inteligencia humana, pero que la superan de manera especial en la velocidad del procesamiento. Para Von Krogh (2018), el funcionamiento de la Inteligencia Artificial tiene tres componentes: datos de entrada, como sonido, imágenes, números y textos; procesos, en forma de algoritmos, y soluciones y decisiones que resultan de los dos anteriores. En efecto, las tecnologías que han hecho posible la Inteligencia Artificial, después de décadas de intentos, son aquellas que permiten capturar y procesar datos sensoriales por computadores, tales como la visión por computador y el análisis de imágenes y videos a través del reconocimiento de voz y procesamiento de lenguaje natural (NLP)⁴⁴. Ahora bien, existen diferentes tecnologías asociadas a la Inteligencia Artificial actual, como son el aprendizaje de máquina, el aprendizaje profundo (Deep learning), las redes neuronales y la robótica⁴⁵.

Este conjunto de tecnologías que se identifica como Inteligencia Artificial puede ser utilizado por las administraciones públicas para el cumplimiento de sus distintas misiones⁴⁶. El ejemplo comúnmente mencionado en investigaciones es el de los carros autónomos (sin conductor humano), los cuales ya están en circulación limitada en varios países desarrollados (Stone et al., 2016; von Krogh, 2018) y serían útiles para el transporte público de pasajeros, utilizando la tecnología de automatización en buses, trenes y tranvías, o para el transporte de carga. Otros ejemplos presentados en el informe de cien años de investigación en Inteligencia Artificial de la Universidad de Stanford son: los sistemas de armas automáticos, los robots para el cuidado de adultos mayores y las ayudas para decisiones clínicas en medicina (Stone et al., 2016). En particular, el sector salud tiene los mayores avances hasta la fecha en aplicar la Inteligencia Artificial en el sector público, y ofrece soluciones innovadoras para la integración y manejo de las historias clínicas, el diseño de tratamientos personalizados y el diagnóstico automatizado de enfermedades. La administración algorítmica o computacional se está aplicando también en el campo tributario, de investigación criminal y en la regulación comercial (Ramió, 2019).

A pesar de que Colombia adhirió al acuerdo de la OCDE sobre Inteligencia Artificial en el año 2019, su utilización por la Administración pública sigue siendo baja. El crecimiento es más acelerado y la Inteligencia Artificial es una realidad en el sector privado⁴⁷, el cual la usa en mercadeo, el sistema financiero⁴⁸, la investigación académica⁴⁹ y en análisis de otros datos. En 2019 se aprobó el Conpes 3975 “Política nacional para la transformación digital e Inteligencia Artificial”, documento que formula una política de adaptación a las exigencias de la cuarta revolución a través de la tecnología digital y la Inteligencia Artificial y advierte que el país no está preparado para estas tecnologías, ni establece los requisitos para la automatización basada en la IA. Para este órgano consultivo, es necesario comenzar la discusión acerca de la implementación de los lineamientos y principios de la OCDE.

De acuerdo con este mismo organismo, un ejemplo aislado de uso actual de esta tecnología por parte de la Administración existe en el sector defensa: “En Colombia, la Alianza Data-Pop usa datos de delincuencia y transporte para predecir los puntos álgidos de crimen en Bogotá. La policía se despliega entonces a los lugares y tiempos específicos donde hay mayor riesgo de crimen” (OECD, 2019). Esta aplicación todavía no se ha evaluado en términos de resultados sobre mejor prevención de la delincuencia, pero se encuentra en pilotaje por la Policía. El caso ya mencionado de la administración tributaria es el otro ejemplo del sector público. Pese a estos usos, la Administración colombiana aún parece no estar lista para estos cambios y solo de forma parcial está adoptando algunas de las herramientas de IA, pero sin que medie debate alguno acerca de las altas externalidades sociales, éticas y económicas, negativas y positivas, asociadas a la producción y explotación de estos recursos por parte de organismos y entidades administrativos.

2.2. RETOS DE LA INTELIGENCIA ARTIFICIAL PARA LA SOCIEDAD Y PARA LA ADMINISTRACIÓN PÚBLICA

El desarrollo de una Inteligencia Artificial de tipo general significaría para algunos una suplantación⁵⁰ o el dominio de los seres humanos por máquinas (Harari, 2018). Más allá de estas preocupaciones, relacionadas con la Inteligencia Artificial fuerte o general⁵¹, vale la pena examinar preguntas cercanas al tipo de inteligencia que está diseñada para resolver un problema específico, que surgen de sus usos por parte de las administraciones públicas y para las cuales el Derecho administrativo no parece estar preparado. En este orden de ideas, es posible interrogarse, por ejemplo, acerca del ejercicio de actividades administrativas por sujetos que sean máquinas o programas de computador programados para actuar de forma autónoma. O quién debe responder por los daños causados por una Inteligencia Artificial o robot, esto es, si estas tecnologías constituirían un centro de imputación distinto o si, por el contrario, comprometerían la responsabilidad del funcionario que los programa y del sujeto de Derecho público dentro del cual cumplen sus misiones. El uso de la Inteligencia Artificial por las administraciones públicas hace parte de una compleja nueva realidad que ya está siendo discutida en varios países; encontrándose problemáticas relacionadas con los derechos de los ciudadanos, la responsabilidad y cuestiones sociales⁵² y éticas (Turner, 2018). ¿Serán estas máquinas o programas agentes morales? (Etzioni & Etzioni, 2017). Aunque esto puede parecer todavía especulativo, la realidad enseña que no lo es y, en el caso de los carros autónomos y los accidentes causados por los mismos, se ha presentado la necesidad de obtener respuestas.

Autores como Andrews (2018) señalan seis tipos de retos que los algoritmos plantean a la Administración pública: (1) el error de selección algorítmico, que se refiere a los sesgos y prejuicios que se han visto reflejados en programas de reconocimiento facial, de revisión de elegibilidad de individuos para programas sociales y en materia de riesgo de criminalidad y reincidencia (con relación a estos problemas, se denuncia racismo y sexismo, derivado en parte de los sesgos de programadores y en parte a los sesgos en la información de bases de datos históricos con los que se alimentan y aprenden las máquinas); (2) el uso de algoritmos para evitar la ley, ayudando al usuario a hacer trampa en controles de emisiones, aplicaciones de transporte ilegales o de evasión de cámaras de tránsito y de seguridad; (3) la manipulación algorítmica en elecciones democráticas y en toma de decisiones individuales de varios tipos, como es el caso de guerra psicológica de Facebook y Cambridge Analítica⁵³; (4) la propaganda algorítmica dirigida por programas que masifican mensajes políticos y falsas noticias para incidir en las preferencias y en los comportamientos de los ciudadanos, como es la incidencia de Rusia en las pasadas elecciones estadounidenses; (5) la contaminación de marca por algoritmos a través de la publicidad personalizada y programada de acuerdo con el comportamiento en línea, y (6) las áreas desconocidas de los algoritmos, en la medida en que estos aprenden y determinan de forma autónoma su proceso de toma de decisiones. Por ende, no es posible conocer con exactitud con qué criterios están llegando a los resultados que arrojan, al ser demasiado complejos para ser controlados y para activar procesos de rendición de cuentas de sus decisiones⁵⁴ (Andrews, 2018, pp. 300-301).

Se discute además el futuro del gobierno electrónico con la aparición de interacciones por voz y aplicativos móviles más sofisticados, pero también temas relacionados con la protección y la privacidad de los administrados (Agarwal, 2018). Se examina cómo proteger la privacidad de los usuarios sin perder la eficiencia en la prestación de servicios; evitar mayores sesgos humanos al incorporarlos en un algoritmo, esto es, casos de discriminación, y mantener un balance entre eficacia de las soluciones y la humanización del trato (sobre todo en servicios como la salud). Con relación a los sesgos al identificar o clasificar personas para diferentes fines, el ejemplo conocido está dado por la tendencia de algoritmos de uso de la policía de los Estados Unidos que consideran a los afroamericanos como sospechosos de ser criminales. Aunque se está trabajando en la corrección de estos sesgos, la tarea no es sencilla. El desafío de tratar de manera imparcial a las personas parece ser particularmente difícil para los algoritmos que se basan en estadísticas pasadas y probabilidades. Sin embargo, las administraciones deben ser imparciales y respetar la igualdad de derechos, la dignidad humana y la presunción de inocencia, entre otros principios.

Un segundo reto relacionado con la equidad económica y social consiste en asegurar que las tecnologías disruptivas no profundicen las brechas sociales existentes, excluyendo a quienes no tienen acceso a internet o a quienes son analfabetas digitales. Existe sin embargo la posibilidad de emplear estas tecnologías como instrumento de cohesión social, como ha sucedido en la Colombia rural y en otras zonas alejadas con el internet vía redes de telefonía móvil. Conforme a los fines del Estado colombiano⁵⁵, la Administración deberá encontrar mecanismos para compensar las desigualdades digitales, de forma que todos los ciudadanos puedan acceder a nuevas tecnologías en igualdad de condiciones. En el área de las políticas sociales, en especial la salud y el cuidado de poblaciones vulnerables, el uso de Inteligencia Artificial puede presentar una dificultad mayor al interactuar con humanos y generar desconfianza en los usuarios de manera que tendría el reto de ganarse la confianza pública y evitar tanto la desconfianza hacia los robots, como el miedo a que los humanos queden al margen (pérdida de empleos, la disminución de las interacciones personales y aislamiento) (Stone et al., 2016)⁵⁶.

Ante los vacíos regulatorios existentes, las empresas de tecnología han creado marcos éticos y de buenas prácticas para autorregularse. Asimismo, existe una asimetría de información entre las empresas privadas y las autoridades regulatorias y una asimetría de poder entre gobiernos y la industria de la tecnología, cada vez más inclinada a favor de estas últimas, que tienen más poder económico que muchos países. Las empresas están siendo exitosas en generar el discurso sobre la tecnología computacional (Andrews, 2018). Sin embargo, en la medida en que las empresas anteponen el interés de sus accionistas al interés general, será necesario que los gobiernos regulen las nuevas situaciones creadas por estas tecnologías. Se presenta, así, un alto riesgo de captura de la Administración pública y del regulador. Esto es particularmente grave en países como Colombia, donde ya existe debilidad de las instituciones frente a los grupos de interés y las grandes empresas de tecnología.

Uno de los retos más importantes al usar la Inteligencia Artificial para la Administración es que los gobiernos, los servidores públicos, tendrán que saber hacer las preguntas correctas, pues la tecnología sirve para los objetivos que se le designen y puede resolver los problemas que se le definan, pero todas estas actividades cognitivas son todavía exclusivas de los seres humanos. Tomar las decisiones y fijar los usos son actividades de las administraciones y de los ciudadanos, en última instancia, vía sus representantes políticos. Esto conecta con el reto político de lograr que la tecnología promueva los valores democráticos como libertad, igualdad, protección de los derechos humanos y transparencia, en vez de ponerlos en riesgo, como en la manipulación y la propaganda algorítmica ya mencionadas. Sobre esto no se ha discutido hasta ahora lo suficiente, y no se han dimensionado los problemas que puede traer el tener máquinas que en tareas específicas son más inteligentes que personas individuales⁵⁷. Los mismos problemas mencionados para tener una ciencia de datos en la Administración colombiana aplican y se multiplican en el caso de la Inteligencia Artificial, pues es un tema aún más técnico, sofisticado, con requerimientos de recursos físicos y humanos muy exigentes y en el cual todavía los mismos desarrolladores que lo están creando no entienden todavía todas las consecuencias y ramificaciones de la tecnología. En conclusión, la Administración pública colombiana deberá tener mejores herramientas y ser capaz de entender en qué consiste esta tecnología, qué cambios sociales puede producir, cómo se pueden controlar o evitar sus peores efectos y proteger a los ciudadanos para que los cambios sean a su favor y no lo contrario. Para usar una Inteligencia Artificial se necesita primero una inteligencia administrativa y humana que la pueda gestionar.

II. LA ADMINISTRACIÓN PÚBLICA COMO REGULADOR DE TECNOLOGÍAS DISRUPTIVAS

La regulación de las tecnologías disruptivas busca conciliar su uso y explotación comercial con otros imperativos de interés general, como son la protección de datos personales o la seguridad de los usuarios, corregir las fallas que se presentan al interior de estos mercados y garantizar la progresividad de las políticas de transformación digital e Inteligencia Artificial. Esta no es una tarea fácil, dado el dinamismo y la velocidad con que se producen los cambios en este sector (1). Este nuevo contexto incide en el proceso de toma de decisión del regulador, llevando a algunos a considerar la decisión regulatoria como algo en progreso, más que como un “evento final”⁵⁸. Esta aproximación permite un mayor grado de flexibilidad a los reguladores, evita que el desarrollo de estas tecnologías se frene o traslade a otros sistemas más laxos⁵⁹ y facilita la revisión de la regulación para incorporar nuevos conocimientos e informaciones. Sin embargo, este enfoque regulatorio puede llevar a desconocer principios como la participación y transparencia⁶⁰, al suprimir actuaciones, trámites o deberes que condicionan las actuaciones administrativas y la validez de la norma regulatoria; al tiempo que generaría incertidumbre acerca de cuáles son las reglas que limitan la actividad de los operadores presentes en esos mercados. El examen de la regulación de las tecnologías disruptivas por autoridades administrativas muestra una vacilación entre métodos y herramientas regulatorias tradicionales, los cuales son más garantistas, pero menos rápidos, y un nuevo enfoque y nuevos instrumentos, que pasan por el uso de macrodatos o máquinas (2).

1. LA REGULACIÓN DE TECNOLOGÍAS DISRUPTIVAS COMO UNA ACTIVIDAD EN EXPANSIÓN

La regulación de las tecnologías disruptivas es una tarea en expansión, que no siempre es homogénea. Mientras que el desarrollo de la regulación de datos se inscribe en un proceso que va desde su liberalización, como estrategia para mejorar las relaciones entre administraciones y ciudadanos, a su disposición y reutilización con fines económicos (1.1), la intervención pública en otras tecnologías que utilizan estos datos para adelantar tareas como el aprendizaje de máquina o razonamiento autónomo está apenas en construcción (1.2.).

1.1. UNA TAREA EN PROGRESIÓN: DE LA LIBERALIZACIÓN A LA EXPLOTACIÓN DE DATOS

La liberalización de datos pone a disposición de los ciudadanos, actores de la sociedad civil y agentes económicos las informaciones construidas o en poder de las unidades de servicio de la Administración y facilita su reutilización con fines privados o comerciales (Conseil National du Numérique, 2015, p. 145). En el Derecho colombiano, el acceso a los datos se inscribe en un movimiento muy anterior de transparencia administrativa⁶¹, pero podría responder también a preocupaciones económicas que buscan hacer de la liberación de estos recursos un instrumento de fomento a la innovación⁶². En este orden de ideas, Colombia aceptó las recomendaciones de la OCDE (2019), entre las cuales se plantea la adopción de enfoques más estratégicos para un uso de la tecnología que impulse a la Administración pública a ser más abierta, participativa e innovadora. Entre estas acciones se recomienda intervenir con lineamientos que fomenten el uso y reutilización de la información pública, un aumento de los niveles de transparencia, la puesta a disposición de datos oficiales que sean oportunos y fiables, la gestión de riesgos de uso indebido de informaciones y un aumento de la disponibilidad de datos en formatos abiertos. En desarrollo de estas recomendaciones, el legislador nacional estableció un marco general de actuación tanto para reguladores como para el conjunto de entidades del Estado y aquellos particulares que detenten información pública. Estas disposiciones reposan sobre tres características esenciales: la accesibilidad, la gratuidad⁶³ y la libre reutilización.

Tradicionalmente, el acceso a datos estaba asociado a las informaciones públicas contenidas u originadas en un documento administrativo, por lo que el administrado que aspiraba a tener acceso a esa información debía hacer una petición. Este esquema es sin embargo superado con la introducción de un concepto amplio de información pública, entendida como toda aquella que genere, obtenga, adquiera o controle cualquier entidad estatal, incluso los particulares que ejercen función administrativa o autoridad pública⁶⁴. Bajo esta definición, la Administración deberá ir más allá de un acceso en respuesta a peticiones de información y entrar en una tarea proactiva de difusión de datos, lo más amplia posible. En este sentido, la Ley de acceso a la información pública establece una obligación de publicar de forma libre y sin restricciones datos abiertos, esto es, aquellos datos primarios o sin procesar que se encuentran en formatos estándar e interoperables que facilitan su acceso y reutilización⁶⁵. Aunque quedó expresamente consagrado como principio el deber de poner en línea y a disposición de los ciudadanos, una vez están disponibles en formato electrónico, la mayoría de los documentos administrativos⁶⁶, no es claro si esta obligación incluye las bases de datos y las informaciones cuya publicación presenta un interés económico, social, sanitario o ambiental⁶⁷.

La regulación de la explotación de datos abiertos, con el fin de potencializar su potencial económico y social, dentro del marco fijado por el legislador, puede requerir de unidades de servicios especializadas para la gestión y verificación de esas informaciones y bases de datos⁶⁸, o de un “Estado plataforma”. A través de estas últimas, se crean dispositivos de intermediación destinados a favorecer el intercambio de informaciones, bienes y servicios⁶⁹, que parecen romper con la lógica tradicional en materia de organización administrativa. Estos intercambios llevan a la creación de nuevos servicios al interior de la Administración, encargados de organizar y establecer los lineamientos para el flujo de datos. En esta dirección, se expidió en 2019 una directiva presidencial tendiente a simplificar la interacción digital entre los ciudadanos y la Administración pública, a través de un único portal o punto de acceso digital⁷⁰. De acuerdo con los lineamientos presidenciales, los sistemas de información o soluciones tecnológicas de las entidades y organismos de los niveles central y descentralizado de la Rama ejecutiva deben ser diseñados y adaptados para asegurar la interoperabilidad entre entidades públicas y privadas, así como la generación automática de datos abiertos y su acceso al portal único (https://datos.gov.co/). Para esto, estas autoridades deberán cumplir con los mecanismos fijados por el MinTIC, órgano encargado de fijar los estándares para publicar datos públicos y coordinar la implementación de esta estrategia⁷¹.

Con relación a la explotación de estos datos públicos por particulares, el documento Conpes 3920 de 2018 señala que el propósito central de las actuaciones administrativas en esta materia es la de aumentar el aprovechamiento de los datos y establecer condiciones para que estos sean gestionados como activos que generen valor social y económico en el país⁷². Los datos deben por consiguiente encontrarse en un formato estándar abierto, y su reutilización por regla general se encuentra autorizada por ley. En algunos casos excepcionales, la construcción de datos por la Administración puede implicar el desarrollo de una base de datos original que contenga informaciones incorporadas a una obra que sea protegida por el Derecho de autor, por lo que su reutilización y explotación puede estar sometida a licencia que deberá ser abierta, esto es, autorizar la reproducción, la redistribución, la adaptación y la explotación comercial de los datos con la condición de mencionar expresamente su autoría⁷³. Es posible utilizar una licencia ODbL o sharealike, que impone a quienes los reutilizan la obligación de no cerrar nuevamente los datos liberados (enclosure), por lo que deberán utilizar esa misma licencia para mantener abierta la base de datos⁷⁴. Otras limitaciones al acceso y explotación de informaciones provienen de la naturaleza y carácter de ciertos datos o de derechos de terceros, como son los datos personales⁷⁵ o aquellos que son sometidos a reserva⁷⁶, incluidos los secretos de la Administración, como es el caso de ciertas informaciones del sector defensa (Warusfel, 2018).

El respeto de estos límites apela a otras modalidades de actuación administrativa que exceden la órbita de la Administración y cómo esta construye y hace accesibles los datos, para entrar a regular la actividad económica que, a partir de la explotación y reutilización de estos recursos, pueden adelantar diferentes actores. Aquí ya no se trata de regular la manera como las entidades y organismos administrativos deben construir, organizar en bases de datos y publicar las informaciones que poseen, sino de vigilar y controlar que las entidades públicas y privadas respeten los derechos, principios y garantías en el tratamiento y uso de datos. Es con esta finalidad que el legislador atribuyó funciones de policía a la Superintendencia de Industria y Comercio (SIC)⁷⁷ para de oficio o a solicitud del titular de la información, sancionar cualquier infracción a las normas que protegen datos personales, revocar autorizaciones, solicitar la supresión de datos e impartir instrucciones y requerimientos para los responsables de cualquier operación sobre los mismos⁷⁸. Esto incluye la adopción de medidas de seguridad necesaria para impedir que la información de personas sea objeto de uso no autorizado o fraudulento.

Si el control de las operaciones sobre datos personales está encaminado a alcanzar equilibrios entre acceso y utilización de los datos y una serie de derechos individuales vinculados a la intimidad y privacidad, no es evidente que la naturaleza del problema cambie cuando aumentan a grandes volúmenes y a grandes velocidades la variedad de activos de información. De ahí que pueda considerarse que los problemas regulatorios se mantienen igual con 100 o con 100 millones de datos. De hecho, el reconocimiento constitucional de la iniciativa privada y la libre competencia permite sostener que no todos los mercados deben estar regulados de forma especial y que los efectos indeseables del uso de estas nuevas tecnologías pueden ser encausados a través de normas transversales en materia de competencia, consumo y protección de datos⁷⁹. Sin embargo, y teniendo en cuenta que las autoridades regulatorias acuden al arsenal clásico de instrumentos regulatorios, la explosión de datos y de nuevas formas de construcción y procesamiento de la información, no solo acentúan la asimetría de información y de capacidad de reacción entre reguladores y agentes del mercado, sino que además dejan expuesta una cantidad considerablemente mayor de información y datos sensibles de las personas⁸⁰. Estas preocupaciones serían más apremiantes cuando los datos se usan para adelantar tareas como el aprendizaje de máquina, razonamiento autónomo o procesamiento de lenguaje natural.

1.2. UNA TAREA EN CONSTRUCCIÓN: LA REGULACIÓN DE LA INTELIGENCIA ARTIFICIAL

Las tecnologías disruptivas hacen más compleja la tarea regulatoria y, en concreto, la elección de todo regulador entre una actuación incompleta (regulación sin todos los datos) o no intervenir. Con la paradoja que, en este último evento, la inacción del regulador puede reforzar el statu quo del mercado, multiplicando la información que al interior del mismo se genera, y acentuando la brecha en tiempos y recursos entre regulador y sector regulado. En este orden de ideas, la OCDE señala que la regulación del conjunto de tecnologías que se identifican como Inteligencia Artificial debe buscar un balance entre la necesidad de protección de la ciudadanía y el fomento a la innovación, lo cual pasa por el cuidado de no generar regulaciones excesivas (Organización para la Cooperación y Desarrollo Económico (OCDE), 2019). De acuerdo con esas recomendaciones, la política nacional para la transformación digital e Inteligencia Artificial, cuyo objetivo es potenciar la generación de valor social y económico en el país a través del uso de estas tecnologías, reconoce tanto la necesidad de aprovechar las oportunidades relacionadas con la adopción y desarrollo de esta tecnología, como de mitigar su posible impacto en la profundización de diferencias sociales e inequidad (Conpes 3975 de 2019). En el documento Conpes que fija los principios orientadores de las estrategias a adoptar, se señala el de la experimentación regulatoria, a través de la cual las autoridades del sector de las comunicaciones deberán supervisar y conocer las últimas tecnologías y a los emprendedores y agentes del mercado⁸¹. Esta experimentación regulatoria se plantea luego de evidenciar que las políticas de transformación digital han estado enfocadas hacia el gobierno y cómo mejorar su relación con el ciudadano, a fomentar mayores competencias y habilidades digitales en el país, y como elemento de las estrategias de competitividad y productividad, aunque no con la profundidad y eficacia que exigen estas industrias.

Entre los ajustes normativos e institucionales propuestos para fomentar la innovación de estas tecnologías en el país encontramos medidas sectoriales como la puesta a disposición por la DIAN de una plataforma tecnológica de factura electrónica que permita la circulación de la factura como título valor y su negociación electrónica, con el fin de promover el negocio de factoring y el uso de la factura electrónica como un instrumento de financiamiento del sector privado; o una revisión de las normas en materia de teletrabajo que fortalezca esta modalidad. Estas acciones previstas buscan fortalecer la adopción de la transformación digital en componentes clave de la productividad empresarial. Otras líneas de acción buscan avanzar en la transformación digital de la Administración y en la ejecución de iniciativas de alto impacto que se apoyen en estas tecnologías. Si bien estas medidas requieren de la intervención y coordinación de varias autoridades, no es posible identificar en el documento Conpes instrumentos de intervención transversales, ni un liderazgo institucional en cabeza de un organismo principal de la Administración pública.

Ahora bien, el diseño de un marco regulatorio que dé seguridad a los usuarios y al público, al tiempo que facilite la comercialización de estas innovaciones no es tarea fácil (Butenko & Larouche, 2015, pp. 52, 72). No es por lo tanto atípico que se plantee como primer paso para impulsar el desarrollo de la Inteligencia Artificial en Colombia, el diseño de un marco ético transversal que oriente la construcción, implementación y evaluación de estas tecnologías (Conpes 3975 de 2019). En atención a una serie de denuncias y riesgos, como la violación de estándares internacionales en materia de derechos humanos por corporaciones transnacionales que usan estas tecnologías, máquinas agresivas (Fenwick, Kaal, & Vermeulen, Regulation Tomorrow: What Happens when Technology is Faster than the Law, 2017, p. 561) o infracciones a las reglas de propiedad industrial⁸², el marco regulatorio deberá diferenciar y hacer énfasis en la ética de datos, de algoritmos y guiar las conductas y prácticas de los individuos que desarrollen e implementen esta tecnología (Conpes 3975 de 2019)⁸³. Estos estándares, que implican la selección de grupos que pueden verse marginados por esta tecnología y la adopción de medidas correctivas, deben ser publicados por el MinTIC, como parte de las guías de la estrategia de gobierno digital. Paradójicamente, esta nueva regulación requerirá de las tecnologías disruptivas.

2. LAS TECNOLOGÍAS DISRUPTIVAS COMO NUEVO ELEMENTO DE LA REGULACIÓN

Las tecnologías basadas en la construcción, análisis, aprendizaje automático y explotación de datos en la actualidad se expanden y desarrollan con una rapidez que impide al regulador una respuesta oportuna, a través del arsenal clásico de instrumentos regulatorios como la potestad reglamentaria, la resolución de controversias o la sanción administrativa⁸⁴. Así la actuación se emprenda a tiempo, es posible que la decisión regulatoria se muestre inadaptada u obsoleta, incluso antes de su expedición. Evitar que los reguladores queden rezagados por el dinamismo de estas tecnologías⁸⁵ pasa por adaptar los instrumentos de regulación (2.1) en las áreas en las que existe una fuerte probabilidad de que la situación a regular evolucione apenas se expida una regla o una mera recomendación (2.2).

2.1. LA CONSTRUCCIÓN Y LA EXPLOTACIÓN DE MACRODATOS COMO HERRAMIENTA REGULATORIA

Las tecnologías disruptivas abren nuevos campos de acción a los reguladores. A través de estrategias que involucran a los destinatarios de estos avances, en países como Francia las autoridades administrativas con funciones de regulación recopilan un máximo de datos para difundirlos de manera amplia entre usuarios, con el fin de que estos aporten nuevos datos al regulador y faciliten la toma de decisiones⁸⁶. Para nadie es un secreto que la información es un insumo esencial para la regulación⁸⁷, por lo que se protege tanto su recaudo como su difusión por actores públicos, incluso por fuera de un terreno pedagógico o con fines de transparencia⁸⁸. En este orden de ideas, es el tratamiento de estos datos el que en realidad adquiere un nuevo alcance, en la medida en que la capacidad de estas tecnologías permite su masificación⁸⁹. Se trata, sin embargo, de un instrumento en desarrollo, de modo que las administraciones públicas en todo el mundo están aún aprendiendo acerca de los efectos que la construcción⁹⁰ y la explotación de este conjunto masivo de informaciones tiene tanto para las industrias reguladas, como para los usuarios de los bienes y servicios que estas ofrecen.

Si la construcción de datos puede potencialmente hacer de cada ciudadano un actor de la regulación, de todos modos, habrá que verificar que las informaciones recaudadas sean lo suficientemente fiables para ser explotadas. Esto implica un trabajo de definición, análisis y tratamiento de datos por los reguladores. Si diversas estrategias pueden ser utilizadas para comprender la forma en que los datos son recaudados, muchas dificultades aparecen, como la falta de homogeneidad, desde un punto de vista metodológico, entre bases de datos (Autorité de Régulation des Communications Électroniques et des Postes (ARCEP), 2020). Cuestión que además es delicada, puesto que muchos operadores incorporan estos resultados y clasificaciones a su discurso comercial⁹¹. La plena transparencia en la explicación de todos los parámetros y metodologías empleadas por el regulador es necesaria para valorar y medir este recaudo. Si en el Derecho nacional la reglamentación del trámite de publicitación que se exige para la expedición de actos administrativos de carácter general establece que se debe poner a disposición del público todos los datos en los que el proyecto se fundamente y que esto incluye las razones de conveniencia y oportunidad de la medida a adoptar, no se precisa si esto incluye datos científicos, estudios técnicos y la descripción de metodologías a través de las cuales se verifican las informaciones empleadas para la construcción del proyecto⁹². De ahí que se recomiende la adaptación del procedimiento a estas nuevas circunstancias.

Estas medidas pasan también por la imposición de deberes y códigos de buena conducta a los operadores de las telecomunicaciones y empresas dedicadas a la construcción de estos datos. Con este fin, el regulador francés de las comunicaciones publicó en 2018 un proyecto de buenas prácticas en el que se establece un nivel mínimo de transparencia y solidez para los protocolos, pruebas y presentación de resultados. Estas pautas, aun sin valor normativo, son ellas mismas el producto de un proceso participativo, a través de diferentes grupos de trabajo y actores diversos, como universidades, operadores del sector o empresas especializadas en la producción de herramientas de medición⁹³. Se buscaba con esta intervención que cualquier persona esté en capacidad de analizar los resultados presentados, pero dejando una discrecionalidad en el recaudo de datos, esto es, sin establecer un procedimiento formal para la construcción de los mismos.

En un espacio altamente competitivo, regular a partir del uso de macrodatos con el fin de conocer mejor los mercados y su funcionamiento, encuentra algunos límites o zonas rojas cuyo control es indiscutible⁹⁴. Se busca contener o potencializar, según el caso, los fuertes efectos negativos o positivos que la explotación de estas informaciones pueda tener⁹⁵. Si la regulación a través de los datos produce vastos efectos, estos siguen estando inscritos en las áreas que actualmente están abiertas a la regulación. A partir de los mismos, se podría ir incluso más allá y extender el campo de la regulación a aquellos lugares donde aún no hay en el país normas regulatorias.

2.2. LAS TECNOLOGÍAS DISRUPTIVAS ABREN UN NUEVO CAMPO DE ACCIÓN A LA ACTIVIDAD DE REGULACIÓN

Una de las posibles áreas de incursión de los reguladores es el de las plataformas digitales, sea que se trate de motores de búsqueda o de servicios de intermediación, que tienen como elemento común crear una relación entre usuarios y contenidos o servicios desarrollados por terceros. Estas plataformas se apalancan de macrodatos y herramientas de machine learning para ir aprendiendo de los consumidores y sus preferencias, tanto para fines comerciales como para asegurar la calidad de los resultados y su posicionamiento ante los usuarios. Es característico de estas plataformas un modelo two-sided, en el que el crecimiento de los dos lados se retroalimenta, de modo que cuando uno crece induce mecánicamente al crecimiento del otro (Fenwick, Kaal & Vermeulen, 2017). Es por esto que, por ejemplo, cuando un porcentaje elevado de usuarios utiliza un mismo motor de búsqueda, este se vuelve tan eficaz que ningún competidor puede rivalizar, excepto tal vez en un sector o área especializada⁹⁶. En este orden de ideas, es legítimo cuestionarse sobre la necesidad de controlar algunos contenidos o los efectos dañinos que puede tener en la economía la formación de monopolios en beneficio de las GAFA (Google, Amazon, Facebook, Apple) o de las BATX (Baidu, Alibaba, Tencent, Xiaomi), cuando incluso, para estas últimas, el proteccionismo chino las favorece.

Al tratarse de bloques formados por grandes corporaciones multinacionales, que escapan a la tutela del Estado⁹⁷, se insiste en la necesidad de intervención por instancias comunitarias o globales. Pese a que los actores supranacionales parecen por el momento privilegiar una regulación ex post, a través de la aplicación de las normas de competencia⁹⁸, la adopción relativamente rápida del reglamento europeo sobre las relaciones entre las plataformas y las pequeñas y medianas empresas enseña la necesidad de una mayor transparencia en los métodos utilizados por esas plataformas para hacer referencia o clasificar a una empresa en los resultados de búsqueda; sobre todo porque las primeras clasificadas son las más leídas por los consumidores. En este punto, no es posible identificar, en ningún nivel, a un organismo apto para recaudar, verificar y comparar datos. Este sería un primer paso para la regulación de plataformas digitales, en donde es complejo remediar la asimetría de información entre grandes operadores y autoridades administrativas. Más que disminuir estas asimetrías, la explotación de macrodatos y otras tecnologías disruptivas por grandes operadores acentúa esta asimetría.

Un primer paso dado por los Estados está en su rol de guardián de la interoperabilidad y neutralidad de la red⁹⁹, de manera que el regulador de las comunicaciones a partir de una interpretación constructiva de los objetivos generales previstos en las normas nacionales vigentes¹⁰⁰ podría estar llamado a pronunciarse sobre casos relacionados con terminales como tabletas, smartphones o priorización de tipos de datos. Estos terminales, controlados por un número muy reducido de empresas, como Apple, Google, Amazon o Microsoft, tienen el poder de limitar la capacidad de los usuarios para acceder a los contenidos y servicios de internet, a partir de las restricciones generadas por sus sistemas operativos o las alternativas que están disponibles en sus almacenes de aplicaciones. Paradójicamente, para poder determinar cuándo estas restricciones estarían justificadas por razones de seguridad, y cuando simplemente representan una estrategia comercial de estos grandes actores, las autoridades administrativas de regulación necesitan acudir a macrodatos y herramientas de Inteligencia Artificial. Esto, con el fin de aumentar su conocimiento acerca de estas tecnologías, pero también para incitar mejores prácticas que ofrezcan una mayor visibilidad frente a terceros (Autorité de Régulation des Communications Électroniques et des Postes (ARCEP), 2020). Mientras que las tecnologías disruptivas amplían las fronteras de la regulación, ellas se hacen también necesarias para evitar los riesgos de una sobre regulación o de una mala regulación, capaces de acentuar externalidades, asimetrías y otras fallas¹⁰¹ en estos nuevos mercados en los que se construyen y explotan estas tecnologías.

CONCLUSIONES

La Administración pública es un usuario de los macrodatos y de los algoritmos de Inteligencia Artificial que automatizan procesos de análisis antes realizados por humanos. También es el regulador que debe ayudar a la sociedad a evitar que estas tecnologías computacionales causen más daño que bien. Como marco de análisis, la gobernanza digital permite entender la forma como el Estado y otros actores interactúan para definir las nuevas reglas del juego y la manera en que estas tecnologías inciden en la actividad administrativa. Desde la doble perspectiva del Derecho administrativo y la gobernanza digital y los roles de la Administración pública, se indagó sobre el balance entre las innegables mejoras que permiten las tecnologías computacionales en desarrollo y los problemas que estas pueden ocasionar. Si las reflexiones están orientadas a las discusiones teóricas y jurídicas internacionales, se utilizó la información disponible sobre la experiencia de Colombia para entender los retos específicos que enfrenta la Administración nacional como usuario y regulador de estas tecnologías. Pese a la evidente transición hacia un gobierno computacional en el que las tecnologías disruptivas pueden ayudar al Estado al cumplimiento de sus fines, en Colombia hay pocas experiencias y estas no están del todo coordinadas en la vanguardia de los usos que la tecnología permite. Además, aparecen retos éticos, sociales, administrativos, económicos y tecnológicos, como las resistencias culturales en la organización administrativa, el riesgo de aumentar los sesgos y las desigualdades sociales, y las discusiones aún pendientes sobre propiedad de los datos, algoritmos y software que traen a primer plano los debates alrededor de las relaciones público-privadas y la preeminencia de la Administración pública en la gobernanza (Isaza, 2016). Esto conecta con el reto político de lograr que la tecnología promueva los valores democráticos. A su vez, la Administración como regulador intenta adaptarse a la velocidad del cambio tecnológico y se debate entre seguir aplicando los intrumentos clásicos de regulación o cambiar a nuevas herramientas regulatorias e incluso adoptar algoritmos para facilitar su labor. Es claro que la Administración enfrenta el dilema de intervenir o dejar que el mercado se encargue, pero en este tema hay derechos fundamentales en juego y el riesgo presente de fallas del mercado y externalidades que no se corregirán solas y que pueden tener consecuencias sociales no deseadas. Se requiere lidiar con la asimetría de información entre grandes operadores y autoridades administrativas. Tarea urgente para países como Colombia es participar activamente en el desarrollo de un marco ético transversal que oriente la construcción, implementación y evaluación de estas tecnologías.

REFERENCIAS

AGARWAL, P. K. (2018). Public Administration Challenges in the World of AI and Bots. Public Administration Review, 78(6), 917-921. https://doi.org/10.1111/puar.12979

ALLENBY, B. A. (2011). The Growing Gap Between Emerging Technologies and Legal Ethical Oversight: The Pacing Problem. (G. E. al., Ed.) Springer.

ANDREWS, L. (2018). Public administration, public leadership and the construction of public value in the age of the algorithm and ‘Big Data. Public Administration, 97 (2), 296-310.

AUBY, J. B. (2007). Introduction. En L’argument de droit comparé en droit administratif français. Bruxelles : Bruylant.

AUBY, J. B. (2006). Droit administratif et démocratie. En Régulation économique et démocratie. Paris : Dalloz.

AUTORITÉ DE RÉGULATION DES COMMUNICATIONS ÉLECTRONIQUES ET DES POSTES (ARCEP). (2020). La régulation par la data. Autorité de Régulation des Communications Électroniques et des Postes (ARCEP).

BARKER, C. (2013). Artificial Intelligence: Direct and Indirect Impacts on the Legal Profession. TortSource, 19(3), 1.

BARNES, J. (2019). Buena administración, principio democrático y procedimiento administrativo. Revista digital de Derecho administrativo, 21, 77-123.

BECERRA, J.; COTINO HUESO, L.; LEÓN, I. P.; SÁNCHEZ-ACEVEDO, M. E.; TORRES ÁVILA, J. & VELANDIA VEGA, J. (2018). El Big Data en la ciberdefensa y la ciberseguridad nacional versus el Derecho a la privacidad del ciudadano colombiano. En BECERRA, J., et al. Derecho y Big Data. Bogotá: Editorial Universidad Católica de Colombia.

BECERRA, S. D. (2018). The Rise of Artificial Intelligence in the Legal Field: Where We Are and Where We Are Going. Journal of Business, Entrepreneurship and the Law, 11, 27.

BERTHAULT, D. (2017). La licence “ ODbL” bloque la réutilisation des données publiques. JCP Adm. N, 41, 22-40.

BOSTROM, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.

BOUSTA, R. (2019). Pour une approche conceptuelle de la notion de bonne Administration. Revista Digital de Derecho Administrativo, 21, 23-45.

BUCUR, I. (2008). The State and Market Failures. Manager, 8, 47.

BUTENKO, A. & LAROUCHE, P. (2015). Regulation for Innovativeness or Regulation of Innovation? L. Innovation and Tech., 7.

CARVAJAL SÁNCHEZ, B. (2013). ¿Cómo asegurar calidad regulatoria? Revista Digital de Derecho Administrativo, 9, 41-62.

CERÓN-GUZMÁN, J. A. & LEÓN, E. (2015). Detecting Social Spammers in Colombia 2014 Presidential Election. En O. PICHARDO LAGUNAS, O. HERRERA ALCÁNTARA & G. ARROYO FIGUEROA (eds.), Advances in Artificial Intelligence and Its Applications. Springer International Publishing, pp. 121-141. https://doi.org/10.1007/978-3-319-27101-9_9

CHEVALLIER, J. (2006). L’État régulateur. En Régulation économique et démocratie (págs. 10-16). Paris: Dalloz.

CONSEIL NATIONAL DU NUMÉRIQUE (2015). Ambition numérique. Pour une politique française et européenne de la transition numérique. Conseil National du Numérique.

COOPER, J. C. (2013). Privacy and Antitrust: Underpants Gnomes, the First Amendment, and Subjectivity. George Mason Law Review, 20, 1125.

CORNELL UNIVERSITY, INSEAD, WIPO ((03-03-2020) de 2018). The Global Innovation Index 2018: Energizing the World with Innovation. Disponible en: https://www.wipo.int/edocs/pubdocs/en/wipo_pub_gii_2018.pdf.

DAVENPORT, T. & RONANKI, R. (2018). Artificial Intelligence for the Real World. Harvard Business Review. Disponible en: https://hbr.org/2018/01/artificial-intelligence-for-the-real-world [https://perma.cc/SN94-SKZZ] (01-03-2020), 1.

DECHIARO, D. (2021) Section 230 Withstands Trump’s Final Assaults, Still Faces Uncertainty. CQ Roll Call Washington Data Privacy Briefing. January 5, 2021.

DECHIARO, D. (2020) Social Media Companies Face Reckoning Following Election. CQ Roll Call Washington Data Privacy Briefing. November 10, 2020.

DEPARTAMENTO NACIONAL DE ESTADÍSTICA (DANE) (03-03-2020) de 2019). Indicadores básicos de tenencia y uso de Tecnologías de la Información y Comunicación – TIC en hogares y personas de 5 y más años de edad. Disponible en: https://www.dane.gov.co/files/investigaciones/boletines/tic/bol_t. Bogotá, Colombia.

EL TIEMPO (19 de 07 de 2018). La FTC de EE.UU leerá “de cerca” la multa de la UE a Google. Recuperado el (03-03-2020). Disponible en: https://www.eltiempo.com/tecnosfera/novedades-tecnologia/reacciones-en-ee-uu-a-la-multa-de-la-union-europea-a-google-245386

ERDELYI, O. J. & GOLDSMITH, J. (2-3 de 02 de 2018). Regulating Artificial Intelligence: Proposal for a Global Solution. Recuperado el 03 de 2020, de AAAI/ACM Conf. on AI, Ethics & Soc’y: Disponible en: https://ssrn.com/abstract=3263992 [https://perma.cc/G78P-D8D7]

ETZIONI, A. & ETZIONI, O. (2017). Incorporating Ethics into Artificial Intelligence. The Journal of Ethics, 21(4), 403-418. https://doi.org/10.1007/s10892-017-9252-2

EUROPEAN COMMISSION (2018). Artificial Intelligence [Text]. Shaping Europe’s Digital Future - European Commission. Disponible en: https://ec.europa.eu/digital-single-market/en/artificial-intelligence. Consultado el 15 de febrero de 2020.

EUROPEAN DATA PORTAL (2016). Data for Humanity: An Open Letter -. European Data Portal, Disponible en: /en/news/data-humanity-open-letter. Consultado el 14 de febrero de 2020.

FENWICK, M.; KAAL, W. A. & VERMEULEN, E. P. (2017). Regulation Tomorrow: What Happens when Technology is Faster than the Law. American University Business Law Review, 6, 561.

FIORINA, M. P. (1982). Legislative Choice of Regulatory Forms: Legal Process or Administrative Process? Public Choice,39, 33-66.

GONZÁLEZ, R. A.; FERRO, R. E. & LIBERONA, D. (2020). Government and governance in intelligent cities, smart transportation study case in Bogotá Colombia. Ain Shams Engineering Journal. 11, 1, Marzo de 2020, 25-34.

HAENLEIN, M. & KAPLAN, A. (2019). A Brief History of Artificial Intelligence: On the Past, Present, and Future of Artificial Intelligence. California Management Review, 61(4), 5-14.

HARARI, Y. N. (2018). 21 lecciones para el siglo XXI. New York: Penguin Random House.

HELBING, D.; FREY, B. S.; GIGERENZER, G.; HAFEN, E.; HAGNER, M. & HOFSTETTER, Y. (2017). Will Democracy Survive Big Data and Artificial Intelligence? Policy & Ethics, 48.

HIDALGO, D.; LÓPEZ, S.; LLERAS, N. & ADRIAZOLA-STEIL, C. (2018). Original road safety research: Using Big Data for improving speed enforcement and road safety engineering measures: An application in Bogota, Colombia. Journal of the Australasian College of Road Safety, 29(2), 12.

HURTADO MORENO, L.; QUINTERO MONTOYA, O. & GARCÍA RENDÓN, J. J. (2014). Estimación del precio de oferta de la energía eléctrica en Colombia mediante inteligencia artificial. Revista de Métodos Cuantitativos para la Economía y la Empresa, 18, 35.

IDOUX, P. (2019). L’accès au service public à l’heure du numérique. En Le droit administratif au défi du numérique, Paris: Dalloz, p. 109-135.

ISAZA, CAROLINA (2016). “Gobernanza y administración pública”. En Aproximaciones teórico-prácticas a la noción de gobernanza. Una herramienta para la investigación y el debate. Cuadernos del CIPE. Bogotá: Universidad Externado de Colombia, 9-13.

KAAL, W. A. (2013). Evolution of Law: Dynamic Regulation in a New Institutional Economics Framework. Recuperado el (03-03-2020), de SSRN: http://ssrn.com/abstract=2267560

LEE, T.D. (2021) Combating Fake News with “Reasonable Standards”. Hastings Comm. & Ent L.J., 43, 81.

LIN, T. & DESHPANDE, A. (2020). Financial Artificial Intelligence: Risks and Implications. Banking & Financial Services Policy Report, 39(1), 9.

LÓPEZ MARTÍNEZ, F. E.; BONFANTE, M. C.; GONZÁLEZ ARTETA, I. & MUÑOZ BALDIRIS, R. E. (2018). IoT and Big Data in Public Health: A Case Study in Colombia. En Protocols and Applications for the Industrial Internet of Things, IGI Global, 309–321.

MACIEJEWSKI, M. (2017). To do more, better, faster and more cheaply: Using Big Data in public administration. International Review of Administrative Sciences, 83(1_suppl), 120-135. Disponible en: https://doi.org/10.1177/0020852316640058

MELLERAY, F. (2007). Les trois âges du droit administratif comparé ou comment l’argument de droit comparé a changé de sens en droit administratif français. En L’argument de droit comparé en droit administratif français. Bruxelles : Bruylant.

MERGEL, I.; RETHEMEYER, R. K. & ISETT, K. (2016). Big Data in Public Affairs. Public Administration Review, 76(6), 928-937. Disponible en: https://doi.org/10.1111/puar.12625

NG, A. (2016). What Artificial Intelligence Can and Can’t Do Right Now. Harvard Business Review, 1-4.

O’REILLY, T. (2011). Governance as A Platform. Innovations: Technology, Governance, Globalization, 6(1), 13-40.

OECD (2019). Reviews of Digital Transformation: Going Digital in Colombia [Text]. Disponible en: https://www.oecd-ilibrary.org/science-and-technology/oecd-reviews-of-digital-transformation-going-digital-in-colombia_781185b1-en

OGP (s. f.). Researcher | Open Government Partnership. Recuperado 23 de octubre de 2017. Disponible en: https://www.opengovpartnership.org/resources/researcher

OHLHAUSEN, M. K. & ALEXANDER P. OKULIAR (2015). Competition, Consumer Protection, and The Right [Approach] to Privacy. Antitrust Law Journal, 80, 121.

ORGANIZACIÓN PARA LA COOPERACIÓN Y DESARROLLO ECONÓMICO (OCDE) (2017). Revisión de Gobierno Digital de Colombia. Hacia un sector público impulsado por el ciudadano. Hallazgos clave. Recuperado el marzo de 2020. Disponible en: https://www.oecd.org/gov/digital-government/Digital%20Gov%20Review%20Colombia%20[Esp]%20def.pdf

ORGANIZACIÓN PARA LA COOPERACIÓN Y DESARROLLO ECONÓMICO (OCDE) (2019). Reviews of Digital Transformation: Going Digital in Colombia. OCDE.

RAMIÓ, C. (2019). Inteligencia artificial y administración pública. Robots y humanos compartiendo el servicio público. Madrid, La Catarata.

RICHARDS, N. M. & JONATHAN H. KING. (2013). Three Paradoxes of Big Data. Stanford Law Review, 66(Symposium Issue), 41.

RINCÓN, J. I. (2018). El control interno como mecanismo de lucha anticorrupción. En Corrupción en Colombia. Corrupción, Estado e instrumentos jurídicos. Tomo IV. Bogotá: Universidad Externado de Colombia.

ROBINSON, W. & SMITH, J. (2018). Emerging Technologies Challenging Legal Current Paradigms. Minnesota Journal of Law, Science & Technology, 19, 355.

RODRÍGUEZ, C. E. (2013). Las fallas del mercado. Recuperado el (03-03-2020), de Universidad Católica de Argentina. Disponible en: http://bibliotecadigital.uca.edu.ar/repositorio/contribuciones/fallas-mercado-carlos-rodriguez.pdf.

RUSSELL, S. & NORVIG, P. (2016). Artificial intelligence: a modern approach. Malaysia: Pearson Education Limited.

SALGANIK, M. J. (2018). Bit by bit: Social research in the digital age. Princeton: Princeton University Press.

SCHWARZ, E. C. (2019). Human vs. Machine: A Framework of Responsibilities and Duties of Transnational Corporations for Respecting Human Rights in the Use of Artificial Intelligence”. Columbia Journal of Transnational Law, 58(Student Writing Price), 232.

SMITH, B. & EKWENSI, R. (2015). The Hidden Dangers of Big Data. ACC Docket, 33(6), 72.

STIGLITZ, J. (2010). Regulación y fallas. Revista de Economía Institucional, 23, 14.

STONE, P.; BROOKS, R.; BRYNJOLFSSON, E.; CALO, R.; ETZIONI, O.; HAGER, G. & TAMBE, M. (September 2016). Artificial Intelligence and Life in 2030. One Hundred Year Study on Artificial Intelligence: Report of the 2015-2016 Study Panel. Stanford University, Stanford. Disponible en: http://ai100.stanford.edu/2016-report.

SUN, T. Q. & MEDAGLIA, R. (2019). Mapping the challenges of Artificial Intelligence in the public sector: Evidence from public healthcare. Government Information Quarterly, 36(2), 368-383. Disponible en: https://doi.org/10.1016/j.giq.2018.09.008

TAMAYO, C.; DELGADO, J. & PENAGOS, J. (2007). Hacer real lo virtual. Bogotá: CINEP, Colciencias, Universidad Javeriana.

TURNER, J. (2018). Robot rules. Berlin, Heidelberg: Springer.

VAN DER VOORT, H. G.; KLIEVINK, A. J.; ARNABOLDI, M. & MEIJER, A. J. (2019). Rationality and politics of algorithms. Will the promise of Big Data survive the dynamics of public decision making? Government Information Quarterly, 36(1), 27-38. Disponible en: https://doi.org/10.1016/j.giq.2018.10.011

VON KROGH, G. (2018). Artificial Intelligence in Organizations: New Opportunities for Phenomenon-Based Theorizing. Academy of Management Discoveries, 4(4), 404-409. Disponible en: https://doi.org/10.5465/amd.2018.0084

WANG, C.; MEDAGLIA, R. & ZHENG, L. (2018). Towards a typology of adaptive governance in the digital government context: The role of decision-making and accountability. Government Information Quarterly, 35(2), 306-322. Disponible en: https://doi.org/10.1016/j.giq.2017.08.003

WARUSFEL, B. (2018). Enjeux et limites de l’ouverture des données en matière de sécurité et de défense. RFAP, 551-564.

WATSON, B. (2017). A Mind of Its Own. Direct Infringement by Users of Artificial Intelligence Systems. Journal of the Franklin Pierce Center for Intellectual Property, 58, 65.

WILSON, R. (2019). Cambridge Analytica, Facebook, and Influence Operations: A Case Study and Anticipatory Ethical Analysis. European Conference on Cyber Warfare and Security, 587.

YUAN, S. (1 de 3 de 2020). How China is using AI and Big Data to fight the coronavirus. Recuperado el 03-03-2020, de Aljazeera News. Disponible en: https://www.aljazeera.com/news/2020/03/china-ai-big-data-combat-coronavirus-outbreak-200301063901951.html

ZÁRATE, A. & PERDOMO, C. (2018). Relaciones peligrosas: corrupción y captura del regulador por grupos de intereses. En Corrupción en Colombia. Corrupción, Estado e instrumentos jurídicos. Tomo IV. Bogotá: Universidad Externado de Colombia, 155-224.

ZÁRATE, A. & PERDOMO, C. (2019). El deber de información como presupuesto procedimental para el ejercicio de la potestad reglamentaria en Colombia. Revista de Direito Administrativo & Constitucional, 76, 41-82.

ZARU, D. (2021). Trump Twitter Ban Raises Concerns over ‘Unchecked’ Power of Big Tech. Abc News. Disponible en: https://abcnews.go.com/US/trump-twitter-ban-raises-concerns-unchecked-power-big/story?id=75150689. Consulta el 13-01-2021.