Conservar la cultura, el idioma, la identidad y los referentes comunes en un mundo fragmentado por la avalancha de contenidos y las nuevas formas de creación que trae la inteligencia artificial (IA) ¿podría considerarse un derecho? Más aún ¿es un derecho entender cómo afectan a nuestra pura humanidad los cambios tecnológicos a los que estamos expuestos?
La industria tecnológica lleva en su naturaleza la expectativa constante. El aceite que engrasa su maquinaria es el hallazgo de la tecnología ”definitiva” y esta vez el consenso es unánime: la IA es la más disruptiva de los últimos tiempos y, más allá de cuestionar cómo hacemos las cosas, viene a interrogarnos sobre lo que somos.
“Las evoluciones cambian las respuestas, las revoluciones cambian las preguntas”, planteaba Jorge Wagensberg, físico y profesor de Teoría de los procesos irreversibles en la Universidad de Barcelona. El cambio que trae la Inteligencia Artificial no es para dar nuevas respuestas a los interrogantes de siempre, sino para plantear preguntas absolutamente nuevas y esa cuestión no corresponde solo a la tecnología: se traslada a la filosofía, al humanismo y a ese conjunto de referencias y marcos colectivos que llamamos cultura.
Una calle de doble sentido
En la relación entre la IA y la cultura, el impacto es de doble dirección: “la inteligencia artificial tiene impacto en la cultura y la cultura también tiene, o podría tener, un impacto en la IA”, indica el filósofo argentino Octavio Kulesz, en su publicación El aporte de la cultura al desafío de la Inteligencia Artificial.
Kulesz centra su trabajo en temas relacionados con las industrias culturales en la era digital. Desde 2020 es miembro del Grupo de Expertos de la UNESCO que redactó la Recomendación mundial sobre la Ética de la IA, el primer instrumento normativo mundial sobre el tema que incluye la cultura como un área decisiva. Para el filósofo, “la cultura opera como input y como output clave de la IA”. Una gran parte de los datos que se entregan a la máquina como alimento proviene de la creatividad humana y también se encuentra del otro lado de la ecuación: gracias a la IA se generan cada vez más obras artísticas. No solo porque la versión generativa de la Inteligencia Artificial las produzca directamente a partir de prompts o instrucciones, sino porque las herramientas de IA amplifican la creatividad, dando paso a la figura del “artista aumentado”.
Hackeo al sistema operativo de la civilización
“Ya existen en el mundo más máquinas que humanos utilizando el lenguaje natural: traductores, correctores lingüísticos, asistentes de voz que, en caso de entrenarse con referentes deficientes, la calidad de los idiomas se empobrecería”, indicó Santiago Muñoz Machado, Director de la Real Academia Española de la Lengua y presidente de la Asociación de Academias de la Lengua Española (ASALE), en el encuentro Marcos Regulatorios en Inteligencia Artificial organizado por la SEGIB.
El director de la RAE señaló que el uso del lenguaje natural por parte de la IA es un objetivo conquistado y recuperó la frase del filósofo mediático por excelencia, Yuval Noah Harari: “La máquina ha hackeado el sistema operativo de nuestra civilización, el lenguaje”. La RAE no tiene relación con las máquinas ni la capacidad de corregir la arbitrariedad fuera de consenso con la que manejan el idioma “y que depende de sus programadores y de los sesgos que estos tengan, que suelen eliminar a las minorías”, señaló Muñoz Machado.
Una cultura atomizada y desprovista de símbolos, identidades y sentido podría resquebrajar el andamiaje que nos une
Mientras, las empresas TIC se convierten en potenciales reguladoras o prescriptoras de la lengua con capacidades de imponer variantes que pueden no coincidir con los usos de los humanos y que se transmiten a los nuevos usuarios de la lengua: las propias máquinas. “Podrían germinar dialectos digitales que tensionen la unidad y establezcan las bases de una fragmentación del uso del idioma que la actividad académica ha logrado evitar durante más de 300 años”, continuó Muñoz Machado durante su intervención en el webinar de la SEGIB.
El director de la RAE habló de “establecer vínculos con las grandes y pequeñas empresas tecnológicas que manejan lenguaje natural para que utilicen los materiales de la Academia”. De ahí ha surgido el proyecto LEIA con el doble objetivo de velar por el buen uso de la lengua española en las máquinas y aprovechar la IA para crear herramientas que fomenten el uso correcto del español en los seres humanos.
En un artículo del New York Times el filósofo y lingüista Noam Chomsky no comparte que el hackeo a la lengua sea tal: cuando los lingüistas intentan desarrollar una teoría de por qué una lengua determinada funciona como lo hace construyen una versión explícita de la gramática que el niño construye por instinto y con una exposición mínima a la información. Sin embargo, el sistema operativo del niño es completamente distinto al de un programa de aprendizaje automático.
De hecho, para Chomsky, “estos programas están estancados en una fase prehumana o no humana de la evolución cognitiva. Su defecto más profundo es la ausencia de la marca de la verdadera inteligencia: la explicación”.
En el prólogo del libro La primavera de la inteligencia artificial. Imaginación, creatividad y lenguaje en una nueva era tecnológica, Mario Tascón señalaba que “Las IAs no piensan, eso es una metáfora; procesan, generan, ordenan, extraen datos, resumen y construyen estructuras de contenidos que hasta ahora eran patrimonio de la creatividad humana. Quizás tengamos que inventar un neologismo, una nueva palabra, para indicar qué hacen”. El libro busca ayudar a comprender de forma clara cómo funcionan los grandes modelos de lenguaje detrás de varios de los avances más recientes —y mediáticos— en inteligencia artificial, además de contribuir a la construcción de una cultura ciudadana común sobre IA.
Nunca hizo tanta falta información precisa, verificada, equitativa y contextual para entender el momento histórico en el que nos sitúa la IA
También sobre el hackeo del lenguaje como sistema operativo de lo humano, el neurocientífico Mariano Sigman indica que “la historia está llena de hackeos de todo tipo, no necesitamos la IA para destruir nuestros principios y valores, nos bastamos a nosotros mismos”.
En el ensayo Artificial, la nueva inteligencia y el control de lo humano (Debate, 2023), Sigman y el tecnólogo Santiago Bilinkis, ambos argentinos, aportan una amplia variedad de ángulos desde los que formarse un juicio fundamentado sobre el futuro. Ni mensajes apocalípticos ni optimismo acrítico. Para los autores, la IA es un potenciador de nuestra creatividad y nuestras capacidades, como una especie de entrenador virtual o una mente complementaria. Debemos tratar a la IA “como a una musa y no como a un adversario”
Sigman indica que la IA genera todo tipo de proyecciones e imágenes mentales en cuanto la nombras. “Metafóricamente la IA es como la selva, que es un lugar peligroso, pero fascinante, lleno de vida. Si sabes apreciarla, una vez que entras en ese mundo tan extraño, hay todo un espacio de fascinación. Creo que a la IA no hay que tenerle ni tanto miedo ni tanto respeto o admiración”.
El sesgo es un espejo
Los sesgos de la IA proceden de sus creadores humanos y su origen son, precisamente, los estereotipos culturales. Sesgos de género, contra minorías sexuales, étnicas o religiosas que se encuentran en los materiales culturales con los que se alimenta la IA. Los prejuicios humanos se trasladan a la máquina, que juzga el mundo con la misma visión sesgada de sus creadores. En ese sentido, la IA tiene el valor de identificar los prejuicios que subyacen en las sociedades, las culturas y en los propios corpus lingüísticos que ven señaladas sus contradicciones, sesgos e imperfecciones a la luz de la pura lógica matemática.
El propio hecho de que una lengua sea más “grande” que otra es en sí mismo un sesgo. Los proveedores de soluciones de IA que trabajan con lenguaje natural priorizan las herramientas pensadas para ciertas lenguas, en detrimento de otras. El español está en una posición de ventaja porque lo hablan 600 millones de personas y el portugués también es una lengua relevante con 222 millones de hablantes en Brasil y Portugal, pero multitud de lenguas de pueblos originarios quedarían definitivamente fuera de la lógica de las herramientas de IA.
La cuestión es qué hacer con ello una vez planteado el diagnóstico y el activismo antisesgos busca que las minorías se encuentren también representadas, para lo que es necesario presupuesto, voluntad política y más mujeres y personas pertenecientes a entornos discriminados en los espacios en los que se diseñan estas herramientas, pero también donde se debaten las regulaciones.
La IA como musa
“El físico, como el poeta no debería describir los hechos del mundo, sino solo crear metáforas y conexiones mentales”, decía Niels Bohr, maestro de tantísimos físicos y matemáticos cuánticos.
Múltiples autores y creadores consideran a la ciencia, la tecnología y la cultura como primas o hermanas: comparten el mismo ADN como fruto de la creatividad humana.
El escritor chileno Benjamín Labatut abunda en ello al convertir a la ciencia y la tecnología en el tema central de su literatura. Señala que la iluminación y la decodificación del mundo que persigue la ciencia proyecta una sombra que recoge la literatura, que estaba allí mucho antes para explicarnos el mundo, como una hermana mayor. “A la literatura le sirve todo, lo recoge todo, no tiene que ceñirse a los principios de racionalidad y comprobación que exige la ciencia, que da vueltas para confirmar algo que, de alguna manera misteriosa, ya sabíamos”, compartía en una conversación mantenida durante el reciente Hay Festival de Cartagena de Indias.
El autor de Un verdor terrible (2020) y MANIAC (2023) -dos fenómenos editoriales que penetran en las cabezas y los procesos “creativos” de los científicos que rompieron la física newtoniana para atomizar la realidad en pedazos cuánticos y prefiguraron la compleja matemática que reside en las tripas de la Inteligencia Artificial- defendía en una entrevista reciente que “la literatura nos recuerda que por mucho que escudriñemos la realidad, la mayor parte del ser humano va a seguir siendo un misterio. Por mucho que digamos que hay reglas que subyacen, esas reglas siempre van a ser oscuras para nosotros. La literatura es como un estudio de la sombra. Es la sombra, y no la luz, la que interesa”.
Autores y creadores consideran a la ciencia, la tecnología y la cultura como primas o hermanas: el mismo ADN como fruto de la creatividad humana
No se puede agregar un fotón de luz al mundo sin agregar inmediatamente su sombra, viene a decir Labatut, que expone sin juzgar los delirios que pueden surgir de la racionalidad más pura encarnada en los físicos superdotados del siglo XX que generaron la raíz de la computación cuya explosión vivimos hoy. El autor reconoce que en los llamados delirios de la Inteligencia Artificial -la capacidad de los modelos de IA para generar contenido que no se basa en datos reales, sino que es producto de la propia imaginación de los modelos- “son una mina de oro para la literatura”. Labatut mantiene que esos delirios ya señalan un aspecto fundamental de cómo funciona nuestra propia inteligencia, “que no es perceptiva, es delirante. ChatGPT, al parecer no puede operar en el lenguaje sin tener estos sueños, estas fantasías, todos estos datos que apuntan a una realidad que no existe. Y la realidad que no existe es el centro de la literatura”.
En un pasaje de MANIAC, uno de los personajes anticipa la posibilidad de que las referencias, los contextos culturales que nos poseen y nos dan sentido de pertenencia podrían perderse. La fragmentación, disociación, segregación del conocimiento podría causar “un extraño retroceso en la evolución humana, una súbita disminución de conocimiento y lucidez que afectase a toda la especie y que sería el primer heraldo de una nueva Edad Oscura producto de la pérdida voluntaria, irremediable y profunda, de nuestra memoria colectiva”.
Octavio Kulesz plantea que podría ocurrir que -algoritmos mediante- las grandes plataformas generen materiales culturales personalizados, no para una cierta comunidad, sino para un individuo que disfruta de ella de forma aislada. “Lo que es una gran oportunidad en términos comerciales, al pensarlo desde el punto de vista de la cohesión social, una cultura atomizada y desprovista de símbolos, identidades y sentido podría hacer que el andamiaje que nos mantiene unidos se resquebraje. Por cierto, ¿es viable una sociedad en la que no existe una cultura compartida?”, interroga el experto.
Derecho a entender
La falta de información es peligrosa, pero el exceso puede ser peor. En Divertirse hasta morir: el discurso público en la era del show business, (2001) Neil Postman, discípulo del teórico y crítico de los medios de comunicación Marshal McLuhan, ya señaló hace más de 20 años la dificultad que supone para los ciudadanos saber qué es relevante y qué no y desconocen cómo abrirse paso en una selva informativa orientada al entretenimiento infinito. “La banalización transforma la información en información engañosa, mal ubicada, irrelevante, fragmentada o superficial, información que crea la ilusión de saber algo pero que, de hecho, nos aleja de comprender” mantenía Postman. Todo eso sin haber llegado a presenciar lo que las redes sociales, las plataformas y la IA han hecho con la manera en la que consumimos contenidos.
Nunca hizo tanta falta información precisa, verificada, equitativa y contextual como ahora para entender el momento histórico en el que nos sitúa la IA. Comunicar de forma clara y con impacto es el mantra que aplica la agencia, editorial, think tank, y laboratorio de ideas Prodigioso Volcán para explicar los fenómenos que nos atañen a través de formatos digitales con un pie firmemente apoyado en la cultura. Para la agencia, “la desconexión digital es el nuevo analfabetismo del siglo XXI que se ha convertido en un hándicap importante para la participación en los distintos ámbitos de nuestra sociedad”, indica su CEO y fundadora María Moya.
Surge así la iniciativa de crear un nuevo Objetivo de Desarrollo Sostenible, el número 18, que tiene que ver con el derecho de la ciudadanía a entender los grandes desafíos de nuestro tiempo. La Comunicación Clara es la disciplina que hace efectivo el derecho a entender de las personas. Aplicarla, permitiría favorecer la igualdad y combatir la brecha digital. “Su dificultad reside en que es mucho más que lenguaje. Para hacer fácil lo difícil necesitamos una suma de disciplinas interdependientes como el lenguaje claro, el diseño, la accesibilidad digital, los sesgos y la comprensión lectora y, ahora, la Inteligencia Artificial”, continúa Moya.
Las empresas TIC son potenciales prescriptoras de la lengua con capacidad de imponer variantes que pueden no coincidir con los usos de los humanos
En la iniciativa también participa la Fundación Gabo, que busca fomentar ciudadanos activos y mejor informados mediante la formación y estímulo a los periodistas y la promoción del uso ético y creativo del poder de contar y compartir historias, inspirados en el método de taller de Gabriel García Márquez.
La capacidad para crear imágenes y noticias falsas de la IA, la velocidad de propagación y la lógica de los algoritmos para compartirlas es inabarcable y la manera en que los medios cuenten el fenómeno de la IA, sus derivados y disonancias será fundamental para orientarse en ella. La exposición Fake News, la fábrica de mentiras que Mario Tascón, fundador de Prodigioso Volcán, comisarió en la Fundación Telefónica abordó la revisión del fenómeno de las noticias falsas a lo largo de los siglos, planteando una reflexión sobre cómo esas fake news se han expandido desde la aparición de las plataformas digitales y el impacto que generan actualmente en una sociedad saturada de información, pero pobre en pedagogía para valorarla.
Si la IA Generativa provoca tanto asombro como vértigo, la no tan futura Inteligencia Artificial General sería el siguiente paso en plantear la externalización de lo que somos. La capacidad de autorreplicación celular capaz de crear “la cosa” conteniendo, además, las instrucciones para crearla, se traslada a la replicación del funcionamiento del cerebro humano en un entorno sintético. Es complejo. Tanto, que se escapa a la mera ciencia y necesita contarse desde la filosofía y la creación artística para poder entender cómo la propia IA aproximaría la posibilidad de crear una nueva e inexplicable belleza.
Jorge Luis Borges escribió que vivir en una época de grandes peligros y promesas es experimentar tanto la tragedia como la comedia, con “la inminencia de una revelación” para entendernos a nosotros mismos y al mundo. Estamos en ello.
