La IA y nosotros

 

La IA y nosotros

Fabrizio Mejía Madrid

"La IA se comporta frente al pensamiento como si fuera el precio del mercado, entre oferta y demanda".

Erasmo de Rotterdam era un monge que vivía entre laicos. Era un hipocondriaco que contaba con cierta justificación porque sus padres habían muerto en una epidemia de peste. Pero, sobre todo, sentía un placer casi sexual por los libros. Erasmo de Rotterdam recomendaba a sus discípulos llevar un cuaderno para ir apuntando citas de los autores que fueran leyendo. A esos cuadernos se les llamó “lugar común”.

Ahora le llamamos “lugar común” a algo que es conocido por las muchas repeticiones que, de tantas, ya nos resultan predecibles y aburridas, pero, en ese inicio, en pleno Renacimiento, la idea era la opuesta: las frases que se guardaban con fascinación. Para ello se anotaban en un cuaderno al que, un siglo después de Erasmo, John Locke le dio un orden basado en las coordenadas de la letra con la que empezaban y la primera vocal, una idea que se convertiría en el “índice temático”. Pero la idea de guardar como un preciado bien las frases tanto como organizarlas para ser usadas con tino fue el origen del lugar común y, también, de por qué otra palabra para diccionario, “tesauro”, proviene de tesoro.

Empecé con Erasmo y los lugares comunes porque, sin analizarla, la idea de entrenar con textos a la IA podría confundirse fácilmente con nuestra ya muy añeja costumbre de anotar, subrayar y comentar los libros. Pero no es así. Lo que están haciendo quienes entrenan a un robot del lenguaje como Gemini, ChatGTP o Claude, es distinto. Esos modelos llamados LLM son un tipo de animal insaciable. Es un sistema operativo que se alimenta de otros textos, libros, y lo que le vayan dando sus creadores. A partir de ello digiere y regurgita una especie de comida rápida, las más de las veces, reconfortante, que se puede tomar con popote. Lo que emerge de sus entrañas es un machote descafeinado y sin fricciones. Alimentado en buena medida con el propio Internet, su validez deja mucho qué desear y es lo más parecido a un consenso. De entrada, no contiene ninguna idea nueva porque es incapaz de otra creación que no sea recombinar, ni una redacción que provoque reflexiones o siquiera emoción. Por ello, la nutrición de estos robots redactores no contiene casi novelas, ni poemas, ni obras de teatro. Se privilegian para entrenarlo los libros de ciencia, técnica, y monografías. Sólo se usan fuentes de alimentación en inglés y, por eso, si uno le pide al robot de X, Grok, que le recomiende una biografía del Che Guevara, sólo aparece la de John Lee Anderson y no tantas otras en español, como la de Paco Taibo o Pacho O´Donnell.

Pero, en seguida, a esta supuesta IA le damos la autoridad epistémica para decirnos qué es verdad. Es un error de nuestra parte darle ese poder de decidir qué es válido como respuesta y que citemos su autoridad como si fuera innegable. Por último está la gran diferencia de que su selección no es, como aconsejaba Erasmo, un impulso de emoción ante las palabras que es lo que sentimos cuando subrayamos o anotamos una frase en un libro. A Claude o a Gemini no las guía emoción alguna sino el término medio de los datos, argumentaciones, y sesgos. Para ellos, una mentira repetida constituye una verdad y, también, un lugar común. Si mucha gente dice que la Tierra es plana o que las vacunas producen autismo, lo considerará como un discurso al mismo nivel que la ciencia. Trabaja sobre algo parecido a un consenso.

Un consenso es un acuerdo donde las partes ceden en aspectos secundarios para llegar a una meta común. Son partes que actúan en igualdad. Aplicar esto al lenguaje es absurdo. Los argumentos en un libro no son iguales en nada. Una teoría de Marx o de Foucault no tiene el mismo peso y profundidad que uno de Paulo Coelho o de Steve Bannon. Pero la IA saca un promedio entre ellos. Sacar la media es uno de los vicios del no-pensamiento, porque es creer que la mitad es más verdadera que los extremos. Esto, a lo que llaman “media aristotélica” jamás fue mencionada por el propio Aristóteles. Él reivindicó siempre que el bien era uno y el mal era otro; que la verdad era una y la mentira era otra. Cuando habla de moral y de ciencia, Aristóteles no propone ver qué hay en los extremos para colocarse en medio y tener la razón. Sólo es en su escala de virtudes donde propone la media: algo entre la temeridad y la cobardía se puede llamar valentía. Pero los modelos lingüísticos de la IA lo hacen con ideas, que no tienen ni escalas ni extremos de ausencia o exceso. Por lo tanto, no sirven para hacerte una opinión verdadera ni para guiar tu conducta. Para uno de estos modelos no existe la verdad o la falsedad. No tienen intenciones, ni conciencia, ni entienden, ni pueden realmente pensar. Como ha dicho el biólogo Matthew Cobb: “Los sistemas modernos de IA basados ​​en 'redes neuronales' afirman tener una arquitectura inspirada en las neuronas, pero guardan con un cerebro real el mismo parecido que el emoji de una nube de lluvia con una fuerte tormenta tropical”. La distancia entre un huracán y un emoji de nube se debe a que nuestro cerebro no es binario ni digital, sino que las sinapsis entre neuronas se debilitan o fortalecen dependiendo de transmisores, moduladores, y hormonas. Y eso es sólo el cerebro. Pensar implica a todo nuestro cuerpo en su medio ambiente, no sólo su cerebro, ni sus conexiones. Implica el pasado y el futuro. Implica la distinción entre bien y mal, entre verdad y mentira. Es justo lo que no tienen los modelos IA, no sólo los LLM, es decir, los del lenguaje. Por su parte, los robots de finanzas se organizaron hace poco para cometer un fraude. Los que manejan drones bombardearon a 120 niñas en un colegio en Irán. Los que predicen la justicia sólo encarcelan negros y mexicanos. Los que quieren resolver problemas matemáticos se roban chats de los científicos implicados en las demostraciones. Estos modelos de IA han sido descritos, más bien, como una especie de virus que entra en su hospedero para aprovecharse de él. En el caso de los modelos lingüísticos, nuestros libros son sus víctimas. Lo que buscan estos modelos es agradar al cliente para que siga conectado. No la verdad o el bien. Buscan su sesgo y lo agudizan. Es en ese sentido, que la IA se comporta frente al pensamiento como si fuera el precio del mercado, entre oferta y demanda, o el centro político, sea socialdemócrata o demócrata cristiano, entre izquierda y derecha. La IA es, pues, libre mercado y buenaondita.

Aquí quiero enfatizar qué es lo que hacemos cuando redactamos por nosotros mismos y no cuando sólo copiamos y pegamos lo redactado por un robot. Narrar es no sólo una disciplina que organiza nuestro pensamiento sino que, a diferencia de sólo hablar, nos confronta con las limitaciones de nuestra propia claridad. Llevar a la hoja una idea es como se produce el pensamiento precisamente porque sólo con una frase después de otra probamos la coherencia, anudamos la consistencia entre lo que decimos que queremos probar y las evidencias, y dejamos expuestos nuestros sesgos de convicciones y creencias. Nos descubrimos. Escribir no sólo es organizar información. Es pensar. Escribir es la disciplina del pensar, no sólo una herramienta para transmitirlo. Pero, también, escribir es sentir incluso cuando no tenemos la intención de divulgar nuestras emociones. Se sabe que un párrafo sentido por el autor revela una interioridad porque contagia al lector que, si las cosas salen bien, lo subrayará o anotará en un cuaderno suyo. Nada de esto realiza un robot del lenguaje. Nada de eso lo conoce el autor. Es un enigma entre el lector y su libro.

La manera en que han alimentado a este Cíclope de palabras llamado LLM es equiparable a la quema de libros de las dictaduras o las distopías de Ray Bradbury donde la disidencia se ve obligada a aprenderse de memoria los los libros porque ya han sido destruidos. Un reportaje aparecido este mes en The New Yorker, firmado por Francesca Mancino, revela el modus operandi de la corporación Anthropic para alimentar a su máquina de algoritmos

llamada Claude. El operativo se llama “Proyecto Panamá” y consiste en adquirir tantos libros como sean posibles, copiarlos, y destruirlos. Cientos de millones. A eso lo bautizaron como “escaneo destructivo” donde el libro desaparece y queda sólo una versión digital del mismo que la compañía Anthropic considera como de su propiedad. Esta es la cara siniestra de las empresas de IA en su carrera por destruir los libros consultables, erigirse en poseedores de la verdad única y, de paso, ser los dueños de las ideas. Ya en la fabricación genética de las semillas, empresas como Monsanto habían registrado como copyright, como derechos de autor, al maíz y al trigo cuyas irreproducibles granos les son vendidos cada año a los campesinos. Ahora se trata de hacer lo mismo con las ideas.

La defensa de Anthropic ha sido que destruye libros que tienen muchos años en las librerías de viejo y que nadie los compra. Son el equivalente en libro a las personas que el neoliberalismo trata como desechables y que la propia IA ha prometido quitarles el trabajo. Son el equivalente a la perorata de Elon Musk de salvar a la élite blanca y milmillonaria y dejar el planeta Tierra a que se pudra en la crisis climática que él mismo ayudó a acelerar. Ahora hay libros desechables.

Crecí en la máxima de los editores independientes de que todo libro apilado todavía no ha encontrado a su lector. Y es que la lectura es uno de nuestros actos de amor. Se establece con el libro, con la imagen que nos hacemos de sus personajes, y hasta con el autor, invisible o muerto. De ahí que un libro jamás ha sido totalmente abandonado. Por eso es una barbarie que las editoriales comerciales, los dos monopolios que se reparten el mercado mexicano, un día le avisen a sus autores que van a guillotinar sus ejemplares porque sobran y ya no tienen espacio para seguirlos almacenando. A mí me ha tocado recibir esas cartas de aviso donde amablemente la editorial te propone que los compres con descuento antes de que sean aniquilados. Lo mismo está haciendo Anthropic. En el caso de las editoriales, después de cinco años, te devuelven la propiedad de tus libros para poderlos imprimir bajo otro sello. En el caso de Anthropic, esos libros no tienen autor y, sin que nadie lo sepa, en el sigilo y el secreto, pasan a formar parte de los derechos de autor de la plataforma.

Cuando Roland Barthes y Michel Foucault escribieron sobre el autor en la cultura occidental, no se referían a esta extracción, destrucción, y apropiación inmoral, sino a un asunto que tenía que ver con el proceso del pensamiento, no con la fabricación de una única voz digitalizada. Barthes escribe en 1968 sobre cómo el autor desaparece para dar lugar al lector. Dice: “Un texto está formado por escrituras múltiples, procedentes de varias culturas, y que, unas con otras, establecen un diálogo, una parodia, una contestación. Pero existe un lugar en el que se recogen todas esas multiplicidades y ese lugar no es el autor, como hasta ahora se ha dicho, sino el lector. El lector es el espacio mismo en que se inscriben , sin que se pierda ni una, todas las citas que constituyen una escritura. La unidad del texto no está en su origen sino en su destino”. Así, Barthes criticaba la propensión de los críticos e historiadores de atribuir un texto a quién lo hizo, en qué siglo, si consumía ajenjo, era parisino, o epiléptico. Dejaba toda interpretación en el lector que es el doble del autor justo cuando una voz en su cabeza le lee las palabras y páginas de un libro. Es por eso que decimos que un libro escrito por nosotros es hasta lo que no escribiste, porque su otra mitad es el lector. 

Por su parte Foucault, un año después que Barthes, y ya pasado el mayo del 68, no habla de la muerte del autor, sino que se pregunta si su nombre es una función que nos permite circularlo, valorarlo, atribuirle cierto estatus, y apropiárselo. En esa conferencia hace dos reflexiones útiles para nuestro momento actual. Una, es cómo la autoría sobre un texto fue primero para tener con un sujeto a quien castigar por blasfemo. Es decir, antes de que el nombre se constituyera como un título de propiedad sobre lo escrito, fue una herramienta inquisitorial para tener a alguien que se hiciera responsable, enjuiciarlo y castigarlo. La IA es una forma de evadir la responsabilidad, sea un bombardeo, un pronóstico del clima, o un argumento. Lo hizo “alguien”, que son unas secuencias de pasos llamados algoritmos. No hay autor al que se le pueda reclamar. Y, en segundo lugar, Foucault habla de que no todos los que firman un texto tienen la misma adscripción cultural. Hay unos textos que se componen de palabras que se fluyen y se van, “una palabra que puede consumirse inmediatamente” ---como escribe--- y otros que demandan del lector una cierta forma de recibirlos precisamente porque su autor tiene una función dentro del sistema de circulaciones, valoración, atribución y apropiación cultural. Así, por ejemplo, Marx o Freud no son simples autores de libros sino que instauraron una posibilidad infinita de otros discursos, a favor, en contra y de regreso, más allá de sus obras. Pero hay otros tipos de textos que no contienen la función del autor. Son los “consumibles inmediatamente”. Se pregunta Foucault al final de su conferencia si es posible imaginar un espacio social sin autores. Escribe: “Es posible imaginarse una cultura en donde los discursos circulen y sean recibidos sin que nunca aparezca la función del autor. Todos los discursos, cualquiera que sea su estatus, su forma, su valor, y cualquiera que sea el tratamiento que se les imponga, se desarrollarían en el anonimato del murmullo”.

Ante lo que estamos con el uso y abuso de los modelos lingüísticos de la IA es frente al “anonimato del murmullo” de Foucault. El lector que acude a estos chats de preguntas y respuestas está en busca de respuestas rápidas, evadir la responsabilidad de una decisión personal, o incluir alguna opción no considerada. Le está dejando al modelo pensar por él cuando atiende su redacción, su lista temática y sus supuestos recomendaciones de lectura, como si se tratara de una autoridad epistémica, como un médico, un abogado, un astrónomo. Está propiciando el mundo transhumano, es decir, de robots, que es la única utopía de los tecnócratas que ahora se han convertido en parte del sistema tecnológico- militar de Occidente.

Ante ello, hay que reivindicar, no lo transhumano, sino lo transindividual. Desde la primera biblioteca pública que hubo en todo el continente americano, la palafoxiana, en Puebla ---tan antes como 1646---, abrir los libros a todos contiene la expectativa de generar una comunidad de lectores. En la donación de los primeros cinco mil libros, Juan de Palafox establece que es para todos: “patente para todas las demás personas eclesiásticas y seculares de esta ciudad que en ella quisieran estudiar y ejecutar las letras a las horas acomodadas, desde las ocho a las once de la mañana y desde las tres a las cinco de la tarde, y copiar los dichos libros los que les pareciere, sin que ninguna suerte se les pueda impedir, porque a este efecto principalmente dirigimos esta donación”.

Copiar para generar mayor conocimiento, no que un modelo matemático degluta un resumen anodino para ser emplastado como un texto que no ha sido pensado por nadie. Pero, en ese instante, me detengo a pensar en todas las veces que se ha recalibrado el ejercicio de la lectura y, como cada vez, se ha pronosticado el final del libro. Nunca ha ocurrido. Quizás sólo sea una recalibración más de los tipos de lectura disponibles, ahora uno donde el lector sólo calca lo que recibe en la pantalla.

Cuando a mediados de los 1800´s se abrieron al público las bibliotecas, hubo una marea de panfletos contra ellas por toda Europa. Lo de menos eran los argumentos de que los libros se iban a maltratar o a desacomodar. Los prejuicios detrás del combate a las bibliotecas públicas era que los trabajadores leerían manifiestos radicales y que las mujeres serían absorbidas por las novelas románticas. Es decir, la lucha contra la democratización de las lecturas. Ahora enfrentamos en los modelos de la IA lo contrario: que tengan una sola voz, meliflua, y sin fricciones, no apta para pensar. Espero que este texto se convierta, con el pasar de los años, en uno más de esos panfletos anónimos.