Presente y futuro

Autoría colectiva:

Andrea G. Rodríguez (Investigadora en CIDOB y miembro del comité de CYBERSEC)

Raquel Jorge Ricart (Fullbright Fellow en la George Washington University)

Pintura Algorítmica «Nous (4)»: Jaime de los Ríos

Introducción

“La tragedia del hombre moderno no es que sepa menos y menos sobre el sentido de su propia vida, sino que le preocupa cada vez menos”, escribía el dramaturgo y más tarde presidente checo Václav Havel en Cartas a Olga. Havel hablaba desde la prisión; la que sería su residencia en varias ocasiones por sus posturas políticas. Temía que los continuos abusos, las promesas no cumplidas, y la constante represión y vigilancia pudieran hacer que la población checa se acostumbrara y dejase de lado la justicia social y las promesas consigo mismos por la seguridad.

Así como Havel retrataba a la sociedad centroeuropea de los años 70 y 80, se podría hablar de las sociedades contemporáneas. La digitalización, cada vez más acelerada, ha creado nuevas herramientas en nombre del individualismo que han terminado con las características únicas del ser humano. Mientras que la información fluye libremente y parece omnipresente, el mundo digital no hace a las sociedades contemporáneas más libres ni democráticas. Estas fueron las dos primeras promesas de la expansión de internet.

Los ejes centrales de la democracia son la idea de poder (kratos) y la representación del pueblo (demos). La tecnología amenaza, a través de los algoritmos, con tomar su control desde el propio ADN, modificando a los votantes presentes y futuros, y convenciendo a los decisores para elegir unas decisiones frente a otras. Los algoritmos son sistemas de instrucciones capaces de ordenar el mundo creados por el ser humano, que funcionan sin el ser humano, y cuestionablemente para el ser humano. Por ello, a este sistema de sustitución democrática desde la democracia le damos el nombre de “algocracia”.

En la primera parte del texto, Andrea G. Rodríguez toma como punto de partida la integración de los algoritmos en el proceso de toma de decisiones y la progresiva desaparición de la supervisión humana. La división y compartimentación del conocimiento a través de la “personalización” pueden modificar la conducta e interfieren en el proceso democrático desde la parte más sustancial: la creación del pensamiento crítico que ya no sirve a un pensamiento real, sino construido a partir de píldoras seleccionadas por el algoritmo. G. Rodríguez se pregunta si en la carrera por hacer alinear la inteligencia artificial a los intereses de la humanidad, la humanidad no la ha perdido de antemano y está alineada a la IA sin saberlo.

En el siguiente apartado Raquel Jorge Ricart da la réplica. En vez de sucumbir a la tecnología, la humanidad se adaptará y la utilizará para transformar las definiciones que gobiernan su vida. Lo individual y lo colectivo mutarán, y surgirán nuevas formas de organización político-social. No es algocracia, arguye, podrá ser digipolítica, aunque hay espacio de corrección para no terminar ahí. En las nuevas tecnocracias digitales lo ideológico pasará a ser lo identitario, y las identidades se organizarán en tres clústers: tecno-optimistas, tecno-pesimistas y tecnoescépticos, que también reorganizarán la sociedad en nuevas clases sociales.

Con este café-debate virtual invitamos a realizar una reflexión colectiva sobre el impacto de los algoritmos en la democracia. Léase este texto como una tertulia escrita donde ambas ponentes tratan de defender ideas, no siempre excluyentes o contradictorias, en unas pocas líneas. Presentamos un ejercicio intelectual donde el objetivo final no es dar respuestas, sino crear preguntas.

Socialización digital, alineación humana, y algocracia (Andrea G. Rodríguez)

La tecnología juega un papel fundamental en el proceso democrático. Internet se ha convertido en un ágora pública donde expresar y defender ideas. Por esta razón, hoy en día puede afirmarse, sin riesgo de cometer una insensatez, que, en Occidente, y casi de igual manera en el resto del mundo, la sociedad se encuentra gobernada de manera inconsciente por un sistema algocrático.

Desde su nacimiento la población es parte del proceso de socialización digital que tiene como consecuencia la limitación de la agencia humana. Esto es, por un lado, por ser sujeto y objeto de la progresiva modificación de conducta por parte de los algoritmos y, por otro, por la “alineación” de la humanidad a la algocracia.

La primera manifestación de la algocracia se da de manera tanto deliberada como no deliberada. A pesar de que la pregunta “¿cómo conocemos?” es una de las clásicas de la filosofía del conocimiento, la modificación de conducta por parte de los algoritmos revive el debate. De manera no deliberada, la introducción de las tecnologías digitales desde la infancia expone a las personas desde cada vez más jóvenes a los algoritmos. Esta socialización digital guía el desarrollo humano y es un primer vértice de la algocracia.

Otros, modificación deliberada, podemos encontrarlos en ejemplos recientes como el de CAMBRIDGE ANALYTICA que cuantificó, clasificó, y creó gracias a herramientas digitales propaganda política personalizada con el objetivo de alinear la conducta de voto con el interés de sus clientes en 2016: la campaña del Brexit y la de Donald Trump. Ambas victoriosas en las urnas. O la radicalización de los individuos a través de la confirmación y potenciación de sus prejuicios a través de la personalización de contenidos.

En la comunidad de las humanidades digitales lidiando con los peligros de la inteligencia artificial se habla muy a menudo de la necesidad de alineación a los intereses y valores humanos de las inteligencias artificiales y de mantener esta alineación (alignment) a lo largo del tiempo. Este reto parece haberse dado la vuelta por completo. Es posible argüir que la socialización digital humana desde edad temprana junto con una intensa exposición digital ayuda a la segmentación del individuo en grupos categorizables sujetos a la acción del algoritmo. Por la dependencia del mundo digital y la no “violencia” de la algocracia, es el ser humano el que acaba alineándose sin darse cuenta a los intereses de la IA y no al revés.

El individuo, como sujeto transparente para el algoritmo que ejerce en él o ella una total influencia, se convierte en actor político sesgado y condicionado por los intereses de terceros a través del algoritmo que lo han medido, compartimentado, y alterado con la exposición de contenidos. Una vez en el poder, éste se servirá de un exceso de confianza en la tecnología y en la más aún incorporación de algoritmos para ayudarle en la toma de decisiones.

Así, sin esperar un despertar de las máquinas ni la Singularidad, los algoritmos ya rigen nuestro día a día y condicionan, desde lo más profundo nuestra esencia humana y nuestro opus político.

¿Algocracia o nuevas formas de democracia? (Raquel Jorge Ricart)

Que los algoritmos vayan a impregnar todos los niveles y áreas de la vida cotidiana de la sociedad, sus instituciones, así como el propio marco cognitivo y simbólico de lo permisible o de lo posible es cierto. Pero centrarnos en la senda del catastrofismo o el declive de las democracias es un error; o, más bien, una pérdida de tiempo si lo que queremos es transformar y adaptar los riesgos del sistema actual a los nuevos tiempos.

El ser humano se caracteriza por su adaptabilidad. Incluso en el pico de una crisis –que puede parecer inevitable-, es capaz de, si no adaptarse, encontrar vías alternativas. Inicialmente de débil estructuración, pero a posteriori resulta siendo un sistema consolidado –aunque sea por necesidad. Los algoritmos van a difuminar, reducir y parcialmente eliminar el sentido de la comunidad. Sin embargo, una vez empecemos a acostumbrarnos a convivir con estos algoritmos, antes de reducir el sentido de la comunidad, lo que ocurrirá es que la definición de comunidad va a mutar en sí misma.

La comunidad perdurará, pero ya no se basará en agrupaciones de ideología, sino más bien en clusters de identidad. Aparecerán nuevas formas de movilización político-social, que presentan retos –y oportunidades- para un sistema democrático que deberá adaptarse, si no busca lo contrario. Esto abre dos vías de posibilidad, una positiva y otra negativa. La negativa es que esa comunidad futura irá revestida por una percepción de individuación que, sin embargo, es tramposa. El “yo” pasará a convertirse en un “todo” que, en base a su única y singular identidad, decidirá o no unirse a sus prójimos. Esto producirá una atomización y un retraso en la toma de decisiones para asuntos esenciales. Ahora bien, la parte positiva es que, en tanto que las exigencias van a ser más específicas y filtradas por la singularidad de las preferencias individuales, no vamos a caer en la ignorancia del “mundo feliz” al que Huxley apuntaba.

Con el auge de los algoritmos, existe la posibilidad de transitar hacia sistemas de cariz más tecnocrático en donde se confíe en la decisión racional del dato. Los programas ideológicos de justicia social de la izquierda o de nativismo de la extrema derecha, entre otros, perderán su sentido. En tanto que pasaremos de ser ideológicos a identitarios, surgirán nuevas formas de agrupación: el espectro izquierda-derecha (o del arriba-abajo) se difuminará y pasará a ser un conglomerado de tres bloques: tecno-optimistas, tecno-pesimistas y tecno-escépticos. Estos últimos crearán nuevas formas de movilización, sea dentro del sistema o fuera de él.

Que se cree una “clase alta tecnocrática” (de tecno-optimistas) podría ocurrir, pero esta clase alta deberá seguir satisfaciendo las demandas de otras identidades, si quieren que su sistema sea mínimamente estable y evitar protestas en las calles, insurrecciones digitales, e-golpes de Estado (a los sistemas informáticos) o grupos transnacionales de crimen organizado cibernético (en donde los tecno-escépticos podrían aglomerarse en contra del Estado).

¿Y qué podría ocurrir en aquellos países actualmente no democráticos? La algocracia tampoco va a triunfar porque, incluso allí donde los aliados ayuden a integrar datos, la inversión va a ser demasiado elevada como para que toda la sociedad se “algocrice”. Y el grado de penetración de Internet y cobertura es demasiado bajo –por ahora- para alcanzar a todas las regiones de un país, en especial las áreas rurales. De la capacidad de respuesta de las organizaciones internacionales para seguir desarrollando proyectos sobre el terreno dependerá la autonomía de comunidades para no verse permeadas por una sobre-digitalización.

Sin duda, existe un riesgo de digipolítica. O, adaptándolo al concepto de biopolítica de Foucault, el control de la sociedad a través del control del cuerpo de los individuos. Las generaciones jóvenes actuales –la Millenial, la Z, y las siguientes- serán las decisoras en unos pocos años. Adaptar el currículum educativo (reforzar el contenido –pensamiento crítico- y el continente –habilidades para desenvolverse en un mundo digital, como el trabajo en equipo o la cooperación) será una tarea necesaria. Está en manos de toda la sociedad, pero en especial de las generaciones jóvenes actuales, garantizar que el presente empiece a construir las “sociedades digitales del bienestar” del futuro.

CONCLUSIÓN

Hablar de algocracia -de si existe, de si nos estamos acercando a este modelo, o de si, todo lo contrario, no va a ocurrir y, en realidad, lo que se está transformando es nuestra propia concepción de democracia hacia nuevas vías de posibilidad- no tiene un propósito teleológico. Con este café-debate no buscamos cerrar un debate o alcanzar un resultado único o finalista.

Más bien, aspiramos a abrir con ello un nuevo ecosistema de “reflexión y acción” en el que el papel de los algoritmos en nuestros sistemas democráticos -y en aquellos que no lo son- sea abordado desde una perspectiva dual. En primer lugar, como un asunto del que, sin duda, hace falta trabajar -más y mejor- bajo una perspectiva de reflexividad. De ello depende la generación de mentes críticas y constructivas en torno a un tema que permea a lo largo de todas las capas de nuestras vidas, estructuras y procesos. En segundo lugar, abordar el nexo entre algoritmos y democracia dota a la persona que forma parte de los procesos de toma de decisión de mayores capacidades prácticas para definir, delimitar, diseñar, implementar y evaluar políticas públicas accionables en torno a esta realidad.

Para riesgos sistémicos, soluciones sistémicas. No cabe duda de que nos acercamos a un escenario de mayor complejidad. Los dos escenarios que se han presentado tienen cabida en el contexto actual. De ahí, la necesidad de abordar este debate en torno a tres grandes líneas conductoras que, en ocasiones se han visto como compartimentadas, cuando en realidad su grado de imbricación no es sólo latente, sino precisamente necesario y urgente.

Por una parte, los Estados como estructuras garantes de la protección, promoción, garantía y respeto de la provisión de servicios necesarios para la sociedad tienen la responsabilidad de abordar el papel de los algoritmos en la democracia. En segundo lugar, la propia naturaleza y origen de los algoritmos hace de otros stakeholders -desde el sector privado hasta las entidades sociales- partícipes de las responsabilidades y consecuencias -sean de la índole que sean- de los algoritmos y su interrelación con las democracias. En tercer lugar, la responsabilidad individual es esencial: necesitamos avanzar en pro de un pensamiento crítico tanto en el plano individual -lo que hacemos con nuestros dispositivos a título personal- como en el plano colectivo -en nuestra sociedad. Para ello, los nativos digitales, que serán las generaciones adultas y decisoras en unas décadas, deben trabajar a favor de sistemas de garantía del uso de algoritmos en la democracia, sea a través de currículums educativos de sensibilización y educación para la ciudadanía digital, como a través de otros compactos.

Como decía Winston Churchill: “Siempre es sabio mirar hacia adelante, pero más difícil todavía es saber mirar más allá de lo visible”.