En el siglo XVI, Domenico Scandella, conocido como Menocchio, terminó juzgado y condenado a muerte por la Inquisición por pensar una explicación de la creación del mundo que contradecía a la de la Iglesia. Martínez Elebi se pregunta ¿cómo podríamos pensar caminos alternativos a los de las “Sagradas Escrituras” actuales si la IA nos da respuestas preaprobadas y procesadas por su algoritmo? ¿Qué es en definitiva la soberanía cognitiva?
Por Carolina Martínez Elebi*
Hace poco, en un artículo sobre la relación que tienen los escritores con la IA, el autor español Javier Cercas reconoció “haber jugado con ella por pura curiosidad intelectual” y relativizó qué tan bien escribe poemas o relatos cortos. Sin embargo, más allá de enfocarse en el resultado de ese proceso de escritura –es decir, en el texto en sí–, Cercas plantea algo que sostenemos quienes vivimos, sentimos y pensamos el mundo a través de la escritura: “Un escritor no escribe para producir texto, escribe para pensar, para descubrir cosas que no sabía antes de sentarse delante del ordenador”.
Es decir, el pensamiento se elabora a medida que escribimos. Se escribe, luego se piensa, podríamos decir. ¿Y qué viene a hacer la IA generativa, precisamente? A “liberarnos” de esa carga, para que podamos tener nuestro texto escrito –nuestro producto– más rápido.
El valor de la rapidez asociado al sentido que tiene la IA en nuestro presente no es casual. Pensar, escribir, leer, son todas tareas que llevan tiempo. Tiempo cada vez más escaso. Tiempo que necesitamos que nos alcance para hacer cada vez más cosas para vivir –mejor o peor–.
Hay una viñeta de Tom Fishburne que sintetiza este fenómeno. Allí, un hombre sentado frente a la pantalla de su computadora en la que se ve solo una línea de texto, le comenta a una mujer que la IA convierte esa oración en un largo correo electrónico que él pretende haber escrito. A continuación, una mujer sentada frente a su computadora en donde se ve un largo texto escrito, le comenta a un hombre que la IA convierte ese largo correo electrónico que ella pretende leer en una sola línea de texto. ¿Qué pasa si empezamos a delegar la lectura profunda en la IA y solo leemos resúmenes?
Mientras por un lado se impulsan campañas de alfabetización para exigir que “los chicos entiendan lo que leen”, la IA se acomoda con su rapidez y eficacia para “ayudarnos” a dejar de leer y escribir. Pero si, como dice Cercas, escribir –y, agrego yo, leer– es una forma de conocimiento e, incluso, una manera de ordenar el mundo, entonces estamos ante un problema más grave.
Pensar como desobediencia
En el siglo XVI, Domenico Scandella, conocido como Menocchio, fue un molinero friulano que terminó juzgado y condenado a muerte por la Inquisición. Su historia llegó a nosotros gracias al trabajo de Carlo Ginzburg en El queso y los gusanos, publicado en 1976 y convertido en uno de los libros fundamentales de la microhistoria.
Menocchio sabía leer y escribir, aunque no pertenecía a ninguna élite intelectual, y a partir de los libros que llegaban a sus manos construyó una particular explicación sobre el origen del mundo. Imaginaba que, al principio, todo era un caos, una masa de la que habían surgido los seres vivos del mismo modo en que los gusanos aparecen en el queso. No era solamente que su explicación contradijera las Sagradas Escrituras, sino que el problema era que Menocchio se había permitido pensar por sí mismo, formular sus propias respuestas, imaginar un mundo diferente al que la Iglesia establecía como verdadero.
Ahí está quizás uno de los aspectos más interesantes de la historia que reconstruyó Ginzburg –uno de los historiadores más influyentes de nuestro tiempo, fallecido a mediados de junio de este año–: Menocchio no era peligroso porque encabezara una rebelión ni porque tuviera detrás un movimiento capaz de desafiar el poder de la Iglesia. Era apenas un molinero que leía, mezclaba lo que encontraba en los libros con su experiencia y con la cultura oral que lo rodeaba, y sacaba sus propias conclusiones.
Pero en una sociedad en la que no todos tenían el mismo derecho a interpretar el mundo, ese gesto tenía una dimensión política. Menocchio pensaba por fuera de las verdades establecidas y, sobre todo, se atribuía el derecho a hacerlo. Pensar, imaginar y construir una explicación propia era, en sí mismo, una forma de desobediencia.
¿Por qué sería necesario generar las condiciones necesarias para poder pensar e imaginar? El molinero se permitió imaginar una realidad diferente, incluyendo una explicación propia sobre el origen del mundo. Como dijo Albert Einstein en una entrevista que dio en 1929: “La imaginación es más importante que el conocimiento. El conocimiento es limitado. La imaginación abarca el mundo entero”. Para resolver problemas de cualquier índole necesitamos no solo conocimiento sino, sobre todo, imaginación.
Crisis de la imaginación y soberanía cognitiva
Menocchio leía mucho, leía desordenado, hacía recortes e interpretaciones, combinaba los distintos saberes que extraía de fragmentos de libros, sermones, relatos orales, imágenes campesinas, elementos cristianos, influencias heterodoxas, intuiciones personales. Todo esto se tejía, se entrelazaba en su pensamiento. Acá es donde radica su complejidad, su particularidad, su riqueza, su distinción.
Hace un tiempo leí sobre la “crisis de la imaginación” que aparentemente estaríamos atravesando y sobre la que piensan y escriben diversos autores. El tema me interesa porque el presente se volvió distópico y necesitamos imaginar cómo podemos construir un presente y un futuro mejor (y que lo creamos posible). Pero cómo imaginar algo por fuera de las “Sagradas Escrituras” actuales si recurrimos a la IA para una lluvia de ideas, para que nos devuelva la síntesis de un libro que no vamos a leer, para que, incluso, escriba lo que nosotros después solo vamos a supervisar. Retomando a Menocchio, ¿De qué nutrimos nuestro pensamiento? ¿Qué pasa con la imaginación colectiva cuando una parte creciente de nuestros procesos de lectura, escritura e ideación pasa por los mismos sistemas técnicos? Visto así, la IA nos limita más que lo que nos expande.
Casi cinco siglos después, la pregunta por nuestra soberanía cognitiva vuelve a adquirir una particular vigencia. La expansión de la inteligencia artificial generativa nos permite delegar en máquinas tareas que hasta hace muy poco parecían inseparables de nuestra capacidad de pensar y crear: escribir un texto, resumir un libro, construir un argumento, producir una imagen o incluso imaginar una idea.
El problema no es simplemente si una máquina puede hacer esas cosas mejor, igual o peor que nosotros. Si escribir, leer o crear no consisten solamente en producir un resultado, sino que son también formas de pensar, de descubrir algo que no sabíamos antes de empezar y de construir nuestra propia interpretación del mundo, la pregunta es qué pasa cuando empezamos a delegar también ese proceso.
Cuando millones de personas recurrimos a los mismos modelos para buscar una idea, encontrar una asociación o decidir por dónde empezar a pensar, existe el riesgo de que aquello que individualmente se presenta como una expansión de nuestras posibilidades termine reduciendo, colectivamente, la diversidad de caminos posibles. De hecho, algunos estudios recientes encontraron una paradoja interesante: la asistencia de la IA puede mejorar el resultado creativo de una persona y, al mismo tiempo, hacer que las producciones de distintas personas se parezcan más entre sí.
En el caso de Menocchio, su pensamiento surgía de la fricción entre materiales distintos, relacionar unas cosas con otras y confrontarlas con su propia experiencia. Quizás parte de la originalidad de una idea se produzca también en esos recorridos accidentados que hoy la promesa de eficiencia tecnológica nos invita a acortar.
Con soberanía cognitiva me refiero a la posibilidad de conservar cierto dominio sobre esos procesos: elegir de qué fuentes nutrirnos, formular nuestras propias preguntas, tolerar una duda antes de resolverla, establecer asociaciones, construir criterios y elaborar interpretaciones que no nos lleguen ya cerradas. Defender la soberanía cognitiva es también proteger y fomentar la capacidad humana de imaginar futuros distintos a los que los algoritmos del poder tienden a reproducir.
*Licenciada en Comunicación de la UBA y especialista en los impactos sociales, políticos, culturales y económicos de las tecnologías info-comunicacionales. Docente, consultora y directora del medio digital DHyTecno. Autora del newsletter Pensar las TIC. IG: @caromartinezelebi, X: @titayna
