Animales que sueñan

Apuntes antropológicos a contrapunto sobre los impactos de la IA

José Palacios Ramírez
Profesor de la Universidad Católica de Murcia

Pintura Algorítmica “Nous (14)”: Jaime de los Ríos

Tal y como se deduce desde el título, la pretensión de este texto consiste en (aprovechando la libertad que ofrece la concisión) plantear una serie de reflexiones de corte antropológico sobre la emergencia de los desarrollos presentes y proyectados a futuro de la llamada Inteligencia Artificial (IA), sobre sus impactos e implicaciones para y a propósito de las sociedades humanas que están generando dicha innovación tecnológica y que están en proceso de alinearse de distintos modos con ella. Obvia decir que la emergencia disruptiva de lo que conocemos como formas de IA es, se analice desde la perspectiva que se analice, un fenómeno socio-tecnológico y cultural fascinante, cuyas implicaciones, en el sentido de los retos, oportunidades y potenciales riesgos que presenta tanto a corto como a largo plazo, hacen difícil tratar de generar algún tipo de reflexión que apunte en una dirección distinta, contraconvencional respecto al marco de los debates al respecto que se vienen produciendo a nivel experto o de difusión.

En todo caso e independientemente de lo exitoso que resulte el ejercicio esa es mi pretensión inicial, a saber, hilvanar una serie de reflexiones en clave de contrapunto respecto a la “actualidad” del acontecimiento que supone el surgimiento de las de la IA y su más que previsible extensión como recurso tecnológico en nuestras sociedades. Fundamentalmente dicho sentido un poco a la contra, proviene del mencionado posicionamiento antropológico de partida, que conlleva implícito un cuestionamiento de determinados aspectos de la cuestión naturalizados, asumidos sin problematización alguna en el marco de la discusión pública y experta. Y comenzaré mencionando algunos antes de pasar a profundizar un poco la argumentación:

  • Para empezar no me parece que los desarrollos en IA sean “pensables” al margen de su posición interrelacionada en el marco de un corolario de descubrimientos e innovaciones recientes, que marcarían las coordenadas de una posible cartografía de los futuros socio-tecnológicos que las sociedades humanas intuimos y sobre los que proyectamos marcos éticos, políticos y socioculturales, no solo de capacidad técnica. Me refiero claro está a los desarrollos en genómica, ingeniería y edición genética, el énfasis en la profundización del conocimiento sobre el funcionamiento del cerebro humano y sus posibilidades aplicadas, las disrupciones en las llamadas nuevas Tecnologías de la Información y la Comunicación, la robótica y la propia IA. Tampoco creo que estas innovaciones y su recepción puedan separarse de un contexto de agotamiento de determinados ejes rectores a nivel productivo y organizativo que pueden servir para entender la apuesta decidida por el futuro tecnificado como un redoble de la apuesta por un modelo capitalista insostenible más que por una redefinición de éste.
  • Por otra parte de manera implícita e indiscutida, tengo la sensación de que el debate y la reflexión sobre la irrupción de este corolario de disrupciones socio-tecnológicas y sus múltiples implicaciones y posibles consecuencias, proyecta a la manera de una perspectiva práctica aceptada como principio cuasi ideológico, una concepción teórico-práctica sobre la naturaleza del ser humano (una especie de homo tecnologicus) y las comunidades-sociedades en las que estructura su vida, que cuando menos merece ser discutida. A nivel de representaciones simbólicas y discursivas parece haberse extendido una percepción pesimista y desalentadora del ser humano y el futuro de la especie que más que alentar algún tipo de transformación parece consignar un mecanismo de control social que reproduce el conformismo y el hedonismo como únicas salidas principales que además casan perfectamente con las opciones comercializables y poco creativas de dichas disrupciones.
  • Y en tercer lugar, me parece también que en todos estos planteamientos generalizados sobre la cuestión de la IA, el resto del corolario de rupturas socio-tecnológicas y el contexto de enormes transformaciones hacía el cual parecemos deslizarnos sin tiempo para una comprensión compleja, prima a su vez un entendimiento reduccionista y algo tecnocrático del hecho tecnológico y sus implicaciones socio-históricas y antropológicas. No estarían de más poder preguntarnos cómo van a ser esas grandes transformaciones que parecen intuirse o de qué manera van a afectarnos, pero también para cuestionar a que ritmo van a desplegarse, que capacidad vamos a tener de modularlas y adaptarlas a necesidades sociales reales y cuáles serán sus utilidades y sus costes en un sentido amplio.

1. A propósito del Homo tecnologicus contemporáneo

A menudo cuando trato de argumentar mi posición intelectual respecto al papel de los desarrollos tecnológicos en la evolución humana (y como antropólogo sospecharán que esto sucede con cierta frecuencia), acuden a mi mente dos citas cuyo origen no podría precisar exactamente (ruego se tenga más el fondo de ambas más allá de mi imprecisión en la referenciación). En primer lugar un pasaje de F. Nieztsche, en el que señala que el ser humano es el único animal que se ha automodelado, autodomesticado y por lo tanto el único no solo con esa capacidad técnica de intervención en el mundo natural, sino con la capacidad implícita en la anterior, de realizar una proyección de su moral hacía aquello/aquellos que le rodean (hacer, cumplir y hacer cumplir promesas). Y en segundo lugar, un pasaje del trabajo clásico de L. Mumford, El mito de la máquina, donde a partir de plantear la idea sugerente de que sin los vistosos monstruos que adornan los códices medievales no habría sido posible la ciencia y la tecnología que estalló en la revolución científica e industrial. Ambos pasajes, o al menos mi evocación mental e inexacta de ambos, resaltan un planteamiento antropológico sobre la cuestión el ser humano y la tecnología que es necesario tener en cuenta. Por más que a menudo se nos pase por alto, el objeto sobre el que el ser humano ha centrado más y mejor la atención tecnológica no ha sido el mundo natural, ni siquiera ciertos fines productivos, sino que de manera continua y a veces imperceptible ha sido el mismo, su moldeo como especie, desde una evolución biológica hasta una evolución cultural que va mucho más allá del diseño y uso de herramientas.

Por más que la IA despliegue un sinfín de posibilidades a futuro, para el ser humano no puede resultar una novedad el vivir integrado en entramados socio-tecno-simbólico-morales, cadenas de actores y actantes en las que como diría B. Latour conviven entidades humanas y no humanas, ya sea en su versión “primitiva” humanos, dioses, minerales, plantas, fórmulas mágicas o contemporánea, humanos, auditorías, programas institucionales y los mercados. Luego aunque sin duda es fundamental entender lo que puede suponer la irrupción de la IA en nuestro mundo, lo primero que quizá cabria preguntarse es que puede suponer la irrupción de la IA para el propio ser humano y sus sociedades, que formas de inclusión/exclusión, de humanización/deshumanización, que tipo de relaciones con nosotros mismos y los demás van a tornarse moralmente aceptables o inaceptables y de qué manera van a pasar a ser racionalizadas, naturalizadas dentro de planes de consistencia socioeconómica y política.

2. La tecnología es algo más que técnica.

Como señalaba antes, visto en una perspectiva evolutiva amplia, realmente la irrupción de la llamada IA no es exactamente algo “nuevo”, o no tanto. La idea de una racionalidad abstraída de la dependencia de los contextos particulares, externalizada de cualquier sujeto social y encarnada en complejos entramados operantes en una serie de cadenas largas y complejas de intervenciones causas y efectos atravesada por mediaciones de racionalidad y disponibilidad técnica encuadrables en distintos contextos históricos, puede verse como señala el mencionado Mumford, desde el surgimiento de las grandes obras monumentales y de irrigación que suelen concebirse como el inicio de las grandes civilizaciones humanas en Oriente y el Mediterráneo. Pero también en el despliegue algo más contemporáneo de diseños de autómatas previos a la revolución industrial, maquinas que juegan al ajedrez, resuelven cálculos etc, y que desembocan ya en el s. XX en las computadoras, de forma que su encuentro con la virtualidad, las redes y el salto cualitativo que produjo la irrupción y mejora continua de los microchips sí que supuso al fin la plasmación de la externalización objetiva y autónoma de dicha conciencia racional sublimada.

Lo que ocurre es que el énfasis excesivo en subrayar la singularidad, el profundo impacto que supone la irrupción de la IA y las otras disrupciones antes mencionadas, ya sea hablando de una nueva revolución industrial, o de un salto en la historia de la humanidad que nos permitirá dejar atrás nuestra misma condición humana (posthumanidad), oculta o silencia en demasía otras cuestiones igual de importantes y quizá más inmediata. Dichas transformaciones se infieren en los debates actuales como algo ya dado históricamente, que va a suceder de una manera determinada y no de otra y sobre lo que sencillamente debemos prepararnos y posicionarnos lo mejor posible a nivel individual y también a nivel social, como países, regiones.. En ningún caso estamos asistiendo a una discusión informada y compleja de a que nos enfrentamos como sociedades, sobre el ritmo al que sería apropiado modular dichas transformaciones más allá del empuje de determinadas megacompañias tecnológicas sin ningún tipo de regulación o control estatal. Tampoco asistimos a dicho debate en lo que se refiere a sus utilidades e implicaciones, de forma que al parecer los límites complejos entre seguridad y control social, entre organización y planificación de una sociedad de masas y formas de alienación se dan por definidos en base a lo desarrollado desde el ámbito tecnológico en el marco de vectores comerciales. En ese sentido cabe destacar que todo desarrollo tecnológico conlleva unas disposiciones, aspectos, realidades de las que dispone (recursos humanos y naturales), efectos, realidades que dispone de un modo y un cálculo determinado. Si dichos efectos dispositivos solo se ponderan en términos economicistas de inversión/recuperación de beneficios y consumo estaremos dejando pasar un sinfín de posibles aplicaciones y desarrollos que podrían ser más beneficiosos, más justos o más éticos.

3. Qué supone la IA y de qué modo nos preguntamos o no por ello

Autores como Latour o Hacking, a mi parecer precursores genuinos de la llamada antropología de la ciencia y la tecnología, ha señalado en más de una ocasión que de algún modo las sociedades en situación de modernidad (entendida como un horizonte de búsqueda más que un ser) estamos atrapados en una extraña y falsa dicotomía de posiciones maniqueístas respecto a la tecnología y los cambios que promueve. De un lado aquellos actores y saberes que se ven a sí mismos como técnicos y solo como técnicos, es decir, como distintos tipos de ingenieros que diseñan planes de intervención y mejora social (organizativa, funcional) que a menudo chocan con la irracionalidad del factor humano. Del otro lado los humanistas, defensores de una esencia moral que debe ser protegida de su vaciamiento de sentido por parte de los entramados socio-tecnológicos que continuamente tratan de capturarla Si nos planteamos esta cuestión sobre el desarrollo actual de la IA en particular o de todo el corolario de transformaciones socio- tecnológicas actuales en el que se incluye, dicho planteamiento parece estar lejos de ser real en la práctica, aunque si que parece acercarse a determinados procesos de imaginación social (G. Bateson dixit) que proyectan nuestros temores y anhelos hacía un futuro poco concreto, fascinándonos o aterrorizándonos, a la vez que impidiéndonos ver la realidad real que nos rodea.

Por más que las múltiples series, novelas y películas de ciencia ficción, utopías y distopias incidan una y otra vez en los mismo, el salto necesario para que una IA pase de ser capaz de hacer algo concreto como autoapreder a jugar a un juego tipo ajedrez y ser capaz de ganar a un jugador humano experto, y se convierta en una entidad con conciencia de sí, algo así como una mente, es por ahora improbable. Y en todo caso no dejaría en principio de ser un reflejo más o menos distorsionado de aquella entidad que la ha creado.

Sin embargo, mientras soñamos con futuros más o menos utópicos o apocalípticos, los desarrollos reales de la IA hace tiempo que ya están aquí entre nosotros. Como señala E. Sardin en su ensayo sobre la humanidad aumentada, ya existen entidades artificiales que organizan en tiempo real los complejos flujos humanos de personas, mercancías, cálculos y ritmos que suponen grandes puertos o aeropuertos, al igual que ya existen otras que personalizan nuestro uso del cepillo de dientes o la salubridad nuestros hábitos cotidianos. Entidades que inscritas en nuestros dispositivos tecnológicos llevan más lejos aun la frontera de la portabilidad, la modulación individualizada de la experiencia del consumo. Como afirma el antropólogo D. Miller hace tiempo ya que máquinas programadas por el hombre programan a su vez el comportamiento y las actividades y pensamientos de otros hombres. El asunto es que esto no resulta excesivamente utópico o distópico en sí mismo. Todas las voces que han ido afirmando ver en el despliegue paulatino del corolario de disrupciones tecnológicas de nuestros días un cambio de era, el paso a otro sistema social, parecían más bien estar pensando en las mencionadas ficciones. En la práctica la economía político-moral que dispone un dispositivo o entramado tecnológico depende de para qué sirve y de sus implicaciones. Así resulta interesante pensar que el despliegue de conciencias y entidades no humanas acompañándonos podría llevarnos a una cosmología no antropocentrista e integrada en la naturaleza similar a la de los estudiados pueblos del Amazonas, o en las posibilidades que podrían tener aplicaciones de la IA centradas en abordar la cuestión del cambio climático (por ejemplo su uso en los drones que utilizan para sembrar semillas en las reforestaciones es muy interesante). Pero en la práctica la emergencia de una economía de las grandes plataformas no ha significado algo distinto al capitalismo, la modulación externalizada de las experiencias sociales centradas en el consumo, la soledad y la autoreferencialidad extrema (Byu Chul Han) no han hecho más que profundizar algunos de los efectos negativos de la modernización. Y en cuanto a su capacidad para alinear a los individuos e instancias colectivas en macro-funcionamientos puede tener tanto de funcional como de inquietante. Así que en primera instancia como sujetos y como sociedades deberíamos plantearnos de manera realista que consideramos esencial conservar y que pretendemos transformar, así como que costes y efectos nos parecen asumibles, ahora, no una vez estos se hayan desencadenado.