Читать книгу Guía de mínimos necesarios para la regulación de la comunicación audiovisual en la infancia y la adolescencia - Kepa Paul Larrañaga - Страница 25

Señalemos, sin ánimo de exhaustividad, algunos de los debates éticos, conectados con las posibilidades que plantea el desarrollo tecnológico. En primer lugar estaría la más grave y que, a mi entender, representa una pretensión formidable, en el estricto y etimológico sentido del término (formido-nis: miedo, en latín): la revolución transhumanista, con la que se estaría apostando expresamente por una supuesta mejora de la raza humana –Human Enhancement–, cuando no por la creación de una especie nueva (Bostrom & Savulescu, 2009; Ferry, 2016). Las posibilidades técnicas parecen estar al alcance de la mano, mediante la convergencia de las conocidas como NBIC, esto es: la Nanotecnología, la Biotecnología –Crispr-Cas9–, la Tecnología de la Información y las Ciencias Cognitivas.

Ahora bien, son tantas y de tal calado las derivadas éticas que emergen ante el planteamiento de esta posibilidad, que, para enfrentarse a sus previsibles riesgos y peligros potenciales con un buen antídoto, se debería dar ocasión a un debate global convenientemente articulado (Stückelberger & Duggal, 2018).

Porque, como decimos, es tanto lo que está en juego –dignidad de las personas; exacerbación de diferencias injustas entre personas, pueblos y culturas–, que la amenaza de una distopía de tal magnitud, debiera hacernos recapacitar y tener presente dos máximas morales de puro sentido común a las que hace ya mucho tiempo me hube de referir en otro contexto: no todo lo éticamente deseable es técnicamente posible en un momento histórico determinado; pero, sobre todo, no siempre todo lo técnicamente posible merece la pena y resulta éticamente deseable (Fernández Fernández, 1994).

Aparte del debate general que acabamos de delinear, estaría el más acotado que tiene que ver con lo que representan los algoritmos y la minería de los datos que desde ellos es posible llevar a cabo. O dicho en otros términos: la ética de datos y la ética algorítmica, como parte de una Ética de la IA más amplia (Rodríguez, 2018), tienen que ver de manera directa con los datos: cómo se adquieren, cómo almacenan, cómo se interpretan, cómo se utilizan, quién accede a ellos y, en último término, quién es el dueño.

La palabra algoritmo procede de Abu Abdulah Mihamad ibn Musa AlKhwarismi, un matemático persa del siglo IX que escribió el primer libro de algebra: Al-Kitab al-Mukhtasar fi Hisab al-jabr wa l-Muqabala (Compendio de Cálculo por Compleción y Comparación). Y un algoritmo, en resumidas cuentas, no es otra cosa que un código software que procesa un conjunto limitado de instrucciones y que lleva directamente a un usuario a una respuesta o resultado particular, dada la información disponible.

La revolución algorítmica que empezamos a notar va a traer consigo, no sólo un protagonismo creciente de la tecnología y las maquinas en todas las facetas de la vida humana, sino también la emergencia de nuevas versiones de viejos retos, así como de amenazas y desafíos de nuevo cuño. Máxime si tenemos en cuenta que, por la propia evolución de los algoritmos –aprendizaje no supervisado y Deep Learning, incluidos– aquéllos devienen crecientemente opacos y, con frecuencia, ininteligibles a quienes los diseñaron, los implementaron y los pusieron inicialmente en funcionamiento.

Quizás el denominador común de los peligros que se objetivan por parte del diseño, el entrenamiento y la gestión de los datos llevada a efecto desde los algoritmos sea el peligro de discriminación. Y ésta, en los siguientes cuatro niveles: discriminación social; discriminación económica; discriminación en el ejercicio de las libertades civiles y políticas; y las consecuencias derivadas de un excesivo y discriminatorio ejercicio del control social por parte de las autoridades. Porque, en definitiva, los algoritmos nunca son neutrales ni objetivos; sino que siempre se enmarcan en y responden a un contexto tecnológico, económico, ético muy concreto y determinado.