Carlos Cabido
La
biblioteca de Babel, de Erik Desmazières.
El lenguaje, a veces, nos ofrece resonancias
heurísticas casuales que, como el saltito con el que se salva un tropezón, nos
permiten avanzar ligeramente más rápido en la dirección en la que ya
caminábamos. Y maestros del relato, como Borges, a veces
también dan esos saltitos¹.
Estaba pensando en lo que hay en común entre los
verbos «comprender» y «comprimir» y en esa «compre(n)sión» de la realidad en
forma de modelos, fórmulas y conceptos con la que intentamos entenderla e
incorporarla a nuestra cultura; lo que llamamos ciencia. Como hipótesis
etimológica encubierta, resulta que es casi correcta: tanto «comprender» como
«comprimir» vienen del latín comprimere/comprehendere, ambos
construidos sobre prehendere, agarrar, asir. Entender algo es
literalmente tomarlo con la mano y apretarlo hasta que cabe en la palma. Esta
metáfora cognitiva que llevará cerca de un milenio incrustada en el castellano
ya contenía la intuición que la teoría de la información formalizó en el siglo
XX².
La ciencia no solo consiste, como mucha gente dice, en
«buscar la verdad». No quiero decir con ello que la ciencia mienta, salvo por
fallos y corrupciones ajenas a su planteamiento formal y más bien fruto de su
inserción en esta nuestra sociedad capitalista. Me refiero a que, además de
veraz, el conocimiento científico debe ser comprensible³. Al menos, si
consideramos la ciencia como práctica cultural y no como un mero instrumento
práctico. Hacer ciencia consiste en plantear adecuadamente las preguntas
necesarias para explorar la realidad que nos concierne y buscar respuestas que,
además de predictivamente eficaces y empíricamente respaldadas, sean pensables.
Pero para que esas respuestas sean pensables, debemos comprimir la realidad en
modelos del mundo simplificados. Modelos que floten lo suficiente para
permitirnos navegar hacia lo desconocido y dibujar mapas de los límites del
conocimiento. Esos mapas adornan, como obras de arte, nuestra mente particular
y también esa mente compartida que llamamos cultura, aunque a veces la cultura
prefiera decorar sus paredes con sucedáneos religiosos y algunas mentes incluso
con fútbol. Pero el interiorismo no debe ser juzgado.
También estaba pensando —últimamente lo hago mucho— en
la relación entre ciencia, arte e IA. Y eso me llevó a Borges. Hace más de
ochenta años Borges ya estaba escribiendo sobre algunas de las pesadillas
epistemológicas que la inteligencia artificial está precipitando ahora. Pienso
mucho en que el conocimiento que ya está generando la IA, y que seguirá
generando de forma exponencial, no surge de esa compre(n)sión humana ni está
necesariamente destinado a ella, sino de una búsqueda masiva de relaciones
estadísticas al margen de nuestra cognición y, por lo tanto, no plenamente
incorporable a nuestra cultura. Sin duda, podemos —y debemos— usar y aplicar
ese conocimiento, pero ¿podremos seguir llamándolo ciencia? Pues, antes de
volver a Borges, se me ocurren dos respuestas defendibles, pero que apuntan en
direcciones muy distintas.
La primera: sí, podremos seguirlo llamando ciencia,
pero habremos cambiado implícitamente la definición de lo que llamamos ciencia.
No pasa nada, los conceptos evolucionan. De hecho, en parte, el proceso de
«descomprensión» de la ciencia ya ha ocurrido antes: la mecánica cuántica nos
obligó a aceptar que podemos manejar con éxito un formalismo teórico aunque su
imagen intuitiva nos resulte imposible. Nadie entiende una función de onda del
mismo modo intuitivo en que entiende una piedra cayendo, pero aprendimos a
operar con ese formalismo con una eficacia asombrosa. Si extendemos ese
precedente, el conocimiento estadístico de la IA sería el siguiente escalón en
la misma dirección, con una ciencia que se seguiría llamando así, aunque fuese
cada vez más instrumental y menos humana. También podríamos llamarla
«neociencia».
Pero, tradicionalmente, el descubrimiento científico
sigue una serie de pasos que incluyen el planteamiento de preguntas, la
identificación de patrones en los datos, la formulación de conjeturas o
hipótesis, el diseño y la realización de experimentos, el análisis de los
resultados y el perfeccionamiento de las explicaciones en forma de modelos.
Cuando los modelos son fértiles, suelen originar nuevas preguntas que tal vez
lleven a descubrimientos que cuestionen o sustituyan los modelos que los
originaron, cerrando el círculo. Si bien la IA ya se ha integrado en muchos de
estos pasos, los investigadores humanos siguen siendo los principales
responsables de plantear preguntas, generar hipótesis e interpretar los
resultados en forma de modelos y teorías, siempre dentro de lo cognoscible para
nuestro cerebro. Esto último es aquí lo relevante.
Porque los sistemas avanzados de IA podrían integrar
todas estas etapas en un proceso iterativo donde las hipótesis, los
experimentos y los análisis se retroalimentan continuamente de forma autónoma,
sin necesidad de intervención humana. Es decir, ante una pregunta, la IA podría
proponer hipótesis basadas en datos, diseñar experimentos o simulaciones
potenciales para ponerlas a prueba, analizar los resultados y perfeccionar los
modelos en ciclos repetidos. Estos sistemas podrían explorar un gran número de
hipótesis que superan con creces la capacidad humana, lo que podría conducir a avances
significativos en muchos campos. Sin embargo, una IA no tiene curiosidad, no se
siente concernida. Por eso aún queda en nuestras manos de científicos, de
momento, el planteamiento de preguntas: el puerto desde el que la IA parte.
Bueno, en realidad, también están en unas pocas manos que no usan guantes,
pinzas y altruismo, sino cotizaciones en bolsa, índices de beneficios y minería
de datos sociológicos al por mayor. Pero ese es otro (m)elón.
Al margen de la tiranía de los mercados y el
capitalismo de datos, ese camino hacia la autonomía científica artificial tiene
otro grave problema para considerarlo «ciencia». Algunos autores han empezado a
hablar de una «ciencia alienígena», porque los modelos, las explicaciones o los
descubrimientos funcionan en la práctica, pero son, precisamente, difíciles de
comprender para los humanos⁴. Si el conocimiento que la IA genera no es
incorporable a nuestra cultura, deja de cumplir una función que la ciencia ha
tenido siempre, desde que no se distinguía de la filosofía, y que iba más allá
de su utilidad práctica. Un conocimiento que, parta del puerto que parta, no
pueda hacer el viaje de vuelta hacia la comprensión humana, ya no es ciencia en
sentido estricto; es algo nuevo que todavía no tiene nombre. Quizás algo más
parecido a un oráculo tecnológico: funciona, pero sus razones son opacas, y la
relación con ella es de uso, no de comprensión.
La ciencia no es solo una fuente de aplicaciones y
tecnología, también es una forma de orientación en el mundo: de saber dónde estamos,
qué somos, cómo funciona todo esto. La ciencia no solo descubre y aplica,
también explica. Y explicar es siempre traducir al lenguaje de la mente humana.
Un conocimiento que solo pueda aplicarse, pero no pensarse, tal vez nos vuelva
técnicamente más poderosos —¿o dependientes?—, pero existencial y culturalmente
estaremos más desorientados. Y esa desorientación es la que Borges, en 1941,
describe en los bibliotecarios del cuento «La biblioteca de Babel».
El cuento, leído desde la perspectiva actual, parece
una deliberada alegoría epistemológica sobre las dificultades a las que nos
enfrenta el uso de IA para generar conocimiento. En primer lugar, señala que el
problema no es solo el volumen generado —que también, como bien saben algunos
médicos⁵—, sino su opacidad generativa⁶. En el cuento, la Biblioteca de Babel contiene todo, pero los bibliotecarios no
saben cómo está organizada ni desde qué lógica fueron producidos los libros. La
caja negra de la IA, entendida como los opacos principios con los que genera
conocimiento, reproduce exactamente esa estructura: el output existe, es
inmenso, a veces brillante, pero el proceso —las capas de pesos, las correlaciones
de alta dimensionalidad, etc.— permanece inaccesible incluso para sus
creadores. Borges incluso describe libros que parecen incomprensibles porque
simplemente son cuatrocientas diez páginas de inalterables MCV que no pueden
corresponder a ningún idioma, por dialectal o rudimentario que sea. Libros que,
sin embargo, no son ruido, sino textos perfectamente «escritos» según la lógica
interna del sistema, aunque ningún habitante pueda descifrarla. Es una metáfora
anticipatoria de lo que la IA podría producir operando en regímenes de alta
complejidad según su propio arbitrio.
El cuento también explica que hay bibliotecarios que,
abrumados por la inconmensurabilidad de la Biblioteca y la proliferación de
sinsentidos, caen en la desesperación o renuncian a buscar. Y hay otros que,
por el contrario, convierten la opacidad en fe: si la Biblioteca existe,
razonan, debe existir también un orden, un catálogo, una justificación última
que algún día será encontrada. En ambos extremos se reconocen fácilmente algunas
posiciones contemporáneas: desde quienes reniegan de la IA, una tecnología que
no entienden o que consideran demasiado peligrosa y degradante, hasta quienes
tienen fe en ella y esperan a que, con más datos, más cómputo y más tiempo, su
caja negra acabe revelándose como una inteligencia superior. Estos últimos
confían, en el fondo, en que el sistema acabará dándonos la esperada respuesta.
Lo que quizá no han considerado es que, como en Guía de autoestopista
intergaláctico, de Douglas Adams, podría darnos un «42» como respuesta
correcta a una pregunta que ya no sabemos formular.
El potencial proceso de ingeniería inversa que
podríamos utilizar para entender la caja negra de la IA ofrecería como
resultado una base de datos tan inabarcable y compleja como el problema
original; es decir, algo no necesariamente más comprensible que aquello que
pretendía explicar⁷. Esto también lo evoca Borges en el brevísimo relato «Del
rigor en la ciencia», en el que imagina un Imperio cuyo arte cartográfico
alcanza tal perfección que el mapa termina siendo del tamaño exacto del
territorio. Es decir, un mapa tan perfectamente fiel como inútil, que es
finalmente abandonado. El inabordable «mapa» de la caja negra de la IA es
probable que tampoco revelara principios útiles, sino que nos devolviera el
problema original con otras etiquetas. Y, como en el relato de Borges, sería
abandonado.
Tomada como metáfora, la complejidad de Kolmogorov⁸
formula que hay sistemas cuya descripción más breve no es una teoría más
simple, sino una reproducción casi completa del propio sistema. Algo parecido
podría ocurrir con ciertos modelos de IA de gran escala: no porque sean
aleatorios como algunos libros de la Biblioteca de Babel, sino porque sus
representaciones internas podrían haber capturado tantas regularidades locales,
tantas dependencias y tantas relaciones de alta dimensionalidad que cualquier
explicación exhaustiva terminaría pareciéndose demasiado al propio sistema y
siendo inútil en cuanto a su comprensión.
Borges, en «El Aleph», se acerca a la misma idea. El
cuento describe un punto en el espacio que contiene todos los puntos. Verlo
supone ver el universo entero simultáneamente, pero esa visión es incomunicable
porque el lenguaje es secuencial y la experiencia de verlo no. Es decir, el problema
no es que el Aleph no contenga la verdad —la contiene toda—, sino que la
comprensión humana es irreductiblemente lineal y parcial. Una representación
completa del espacio latente de un modelo grande tendría esa misma patología:
sería técnicamente exhaustiva e inhumanamente ilegible. No nos falta
información; nos falta la arquitectura cognitiva para procesarla y compartirla.
En «Funes el memorioso», Borges nos proporciona otra
perspectiva, igualmente reveladora. Ireneo Funes recuerda cada hoja de cada árbol,
cada nube de cada amanecer, cada variación mínima de cada percepción. Su
memoria es perfecta, pero precisamente por eso su pensamiento queda casi
paralizado. Borges muestra que pensar es olvidar diferencias, generalizar,
abstraer. Es decir, pensar exige perder información. Funes no es una mente
superior porque lo recuerde todo; es una mente atrapada en la imposibilidad de
comprimir el mundo por exceso de información. Si la IA no es exactamente Funes
es porque no queda paralizada por esa falta de olvido, que compensa con más
espacio, más procesamiento, más fuerza bruta. Pero no usa, como nosotros, el
olvido y la renuncia como parte del pensamiento. Además, esa fuerza bruta no
nos sale políticamente gratis. La inteligencia artificial quizá parezca etérea,
pero necesita infraestructuras, energía, agua, minerales y una concentración de
poder empresarial que conviene no olvidar. Es como una voraz musaraña de
acelerado metabolismo… con el tamaño de una ballena azul⁹. Ya adivinará el
lector por qué jamás ha evolucionado un animal así.
El problema con la IA no es que el exhaustivo
conocimiento que llegará a generar no vaya a sernos útil, sino que quizá no
podamos reducirlo y procesarlo nosotros. Y esa falta de comprensión no tiene
solo consecuencias epistemológicas, sino también éticas y prácticas. Por
ejemplo, aunque los diagnósticos médicos hechos con IA sean en promedio muy
fiables, esto no es suficiente para confiar ciegamente en ellos: pueden ocultar
valores y sesgos y fomentar una confianza excesiva que impida detectar que su
validez es dependiente del contexto¹⁰. Solo si comprendemos bien el
funcionamiento de las decisiones que llevan a la caja negra de la IA a generar
conocimiento o predicciones podemos valorar —y, si acaso, aceptar— sus
consecuencias éticas.
Pero la comprensión humana funciona, como decíamos,
por compresión: para entender algo necesitamos una representación más simple
que la cosa misma. Y la ciencia es, en esencia, una práctica de compresión con
pérdida: una ecuación que condensa millones de observaciones, un modelo verbal
que confiere sentido y unifica fenómenos dispares. Aceptamos perder detalle y
simplificar a cambio de ganar inteligibilidad. Incluso podríamos preguntarnos
si no es precisamente esa economía formal —esa capacidad de decir mucho con
poco— lo que algunos físicos, como Dirac o Einstein, llamaban belleza o
elegancia, y defendían como criterio orientativo para seleccionar modelos
teóricos. El caso es que no necesitamos conocer la trayectoria de cada
partícula para formular un principio explicativo general que nos permita
entender y predecir un fenómeno. El ejemplo más simple es que, aunque no
podamos predecir dónde estarán al cabo de un rato todas las moléculas de un
cubito de hielo en un vaso de agua, sabemos que se derretirá y comprendemos por
qué.
Sin embargo, si el sistema que genera conocimiento, la
caja negra de la IA, no necesita simplificarlo —y nosotros tampoco podemos
comprimirlo sin destruirlo—, entonces la categoría misma de principio
explicativo pierde su función¹¹. La ciencia no es la Biblioteca, ni el Mapa, ni
el Aleph, ni Funes; la ciencia son los modelos del mundo que, aunque sean
parciales, nos resultan comprensibles¹². La forma de infierno epistemológico
que Borges evoca en todos esos relatos es un mundo donde la abrumadora
información no produce comprensión, sino desorientación.
Hasta aquí el problema parece cuantitativo: demasiados
datos, demasiadas relaciones, demasiada complejidad para nuestra mente. Pero
quizá el problema sea más profundo y no se trate solo de cuánto puede procesar
una mente, sino de qué clase de mundo puede albergar. En un reciente ensayo¹³,
siguiendo al filósofo Paul Humphreys¹⁴, se describe un escenario automatizado
en el que los sistemas de IA comenzarían a fijar su propia agenda de investigación,
con propósitos que desconocemos, para ser interpretados de formas que
ignoramos, y que, al comenzar las superinteligencias a hablar un nuevo lenguaje
científico, su trabajo se volvería ininteligible para nosotros porque
careceríamos de la perspectiva interna necesaria para comprenderlo.
El ensayo cita el león de Wittgenstein: si un león
pudiera hablar, no lo entenderíamos, porque el significado de nuestro lenguaje
está entretejido con la experiencia interna de lo humano, no de lo félido. El
concepto de umwelt de Jakob von Uexküll —el entorno subjetivo que cada
organismo construye a partir de sus propios receptores y efectores¹⁵— captura
esta misma idea. El león no nos resulta ininteligible porque sea más complejo
que nosotros, sino porque su mundo, su entorno perceptivo —lo que le es
saliente, lo que para él es señal y lo que es ruido, lo que le importa—, su umwelt,
está construido desde una corporalidad y una experiencia radicalmente distintas
de las nuestras. El lenguaje que hipotéticamente hablaría estaría tejido desde
su umwelt y no desde el nuestro, y por eso nos resultaría opaco, incluso
aunque usara las mismas palabras. Esta misma idea aplicada al conocimiento
generado por una hipotética superinteligencia artificial nos hace ver que el
problema no es solo la incomprensibilidad de ese conocimiento, sino su
constitución perceptiva.
Lo que llamamos ciencia es conocimiento generado desde
y para un umwelt humano, no desde un procesamiento estadístico sin
cuerpo ni sujeto. El conocimiento generado por la IA no es que surja de su
propio umwelt; tiene una vuelta de tuerca adicional que lo hace más
extraño aún. El umwelt del león es inaccesible para nosotros, pero
coherente en sí mismo —está anclado a su cuerpo, sus necesidades y
restricciones, y a su historia evolutiva—, por lo que podríamos intentar
interpretarlo desde el nuestro o, al menos, identificar las diferencias
insalvables. Pero la IA no está anclada a nada de eso. No tiene hambre, no
tiene depredadores; no tiene necesidades ni horizonte temporal propio. No
genera análisis ni conocimiento «encarnados», vinculados a una corporeidad. Tal
vez sí que tenga una especie de historia evolutiva, pero no está claro si eso
condiciona su percepción del mundo, que es estadística pura. Y todo puede ser
estadísticamente relevante para ella, pero nada le concierne. No hay
subjetividad porque no hay individualidad. Podríamos decir que el supuesto umwelt
de la IA no es simplemente diferente al nuestro, como el del león; es un umwelt
sin sujeto. Pero eso es un sinsentido. Uexküll concibió el concepto
precisamente para capturar la perspectiva de un sujeto que organiza su mundo.
Así que, si en la IA no hay sujeto, aunque haya procesamiento, podríamos decir
que opera fuera de cualquier umwelt, y por eso lo que produce, siendo
formalmente indistinguible, es otra cosa. La IA no tiene umwelt porque
no tiene un cuerpo que seleccione lo relevante: procesa todo sin que nada le
importe. Y quizá por eso no hay posibilidad de traducción a nuestro umwelt
científico. Salvo que le proporcionásemos uno. Lo cual no es seguro que sea
posible ni deseable.
Curiosa pero predeciblemente, la misma lógica opera en
sentido inverso cuando la IA produce
«arte». Si la ciencia es el intento de traducir el mundo a nuestro umwelt,
el arte es el intento de traducir nuestro umwelt al mundo, o al de otro
sujeto. Ambos ejercicios presuponen un sujeto. Y en ambos casos, la IA falla en
el mismo punto, por la misma razón. Lo que define la categoría —ciencia, arte—
no es solo el producto, sino el proceso y la relación que ese proceso establece
entre sujetos. El arte no es solo forma bella o emocionalmente efectiva: es
algo que porta la huella de una subjetividad singular, de una experiencia
vivida que busca resonar con otra. Y la ciencia no es solo verdad útil: es
verdad comprendida y compartible.
La IA no produce simulacros defectuosos de ciencia o
de arte; produce algo que cumple todas las funciones instrumentales de ambos,
pero falla precisamente en la dimensión que no es instrumental. En la ciencia,
falla en la inteligibilidad —no podemos pensar ese conocimiento—; en el arte,
falla en la honestidad expresiva: no hay un sujeto, una mente singular, que lo
haya necesitado producir. Lo interesante es que ambas carencias señalan hacia
la misma cosa: la ausencia de un sujeto singular, con límites. La ciencia surge
porque una mente limitada necesita reducir la complejidad del mundo para
asirla. La expresión artística ocurre porque una mente singular necesita
externalizar y compartir su percepción del mundo. También es curioso que
llamemos «singularidad» al advenimiento de una inteligencia artificial general
que seguiría sin ser un sujeto singular. ¿Otra vez el lenguaje dando sus
saltitos?
Normalmente pensamos que la singularidad personal se
expresa a pesar de los errores, o que los errores son ruido sobre una señal que
intentamos depurar. Yo pienso lo contrario: que en el arte los errores —las
desviaciones sistemáticas, los sesgos perceptivos, las obsesiones, los puntos
ciegos— son la señal. Son lo que hace que Cézanne no sea Monet, aunque ambos miren
la misma manzana. La IA, en ese sentido, no es un artista sin talento: es un
optimizador sin errores propios. Y esa ausencia de errores la despoja de
subjetividad singular, descalificando lo que hace como arte. Del mismo modo, la
compresión, parcialidad o simplificación de la realidad que asumen
—razonablemente— todos los modelos científicos no son problemas que debamos
depurar usando la IA. Son lo que mantiene la ciencia como algo humano y parte
de nuestra cultura.
Así que la pregunta que originó una serendipia léxica,
sobre si podemos llamar «ciencia» a lo que haga la IA, no era solo una cuestión
semántica. Es, en el fondo, una pregunta sobre qué tipo de relación queremos
tener con el conocimiento. Nada menos. ¿Nos basta con que funcione y sea útil?
La IA —o más bien, el capitalismo que la gobierna— nos está arrojando contra
ese dilema. Y quizá nos quede poco tiempo para decidir si queremos corregir el
tropiezo con un saltito o seguir cayendo hacia una forma de conocimiento que ya
no podremos pensar.
Fuente:
Referencias
(1) Borges, J. L. (1974). «La biblioteca de Babel». En
Obras completas 1923–1972. Buenos Aires: Emecé.
(2) Lakoff, G., y Johnson, M. (1980). Metaphors We
Live By. University of Chicago Press.
(3) De Regt, H. W. (2017). Understanding Scientific
Understanding. Oxford: Oxford University Press.
(4) Zenil, H., Tegnér, J., Abrahão, F. S., Lavin, A.,
Kumar, V., Frey, J. G., Weller, A., Soldatova, L., Bundy, A. R., Jennings, N.
R., Takahashi, K., Hunter, L., Džeroski, S., Briggs, A., Gregory, F. D., Gomes,
C. P., Rowe, J., Evans, J., Kitano, H., y King, R. (2026). «The future of
fundamental science led by generative closed-loop artificial intelligence». Frontiers
in Artificial Intelligence, 9: 1678539.
(5) Lopes, G. (2025). «The Library of Babel:
Artificial Intelligence in Cancer Care, Research, and Education From Borges to
IBM Watson and Beyond». ASCO Connection. Publicado el 23 de mayo de
2025.
(6) Burrell, J. (2016). «How the machine “thinks”:
Understanding opacity in machine learning algorithms». Big Data &
Society, 3(1): 1–12.
(7) Lipton, Z. C. (2018). «The mythos of model
interpretability». Communications of the ACM, 61(10): 36–43.
(8) Li, M., y Vitányi, P. M. B. (2019). An
Introduction to Kolmogorov Complexity and Its Applications. 4.ª ed. Cham:
Springer.
(9) Brown, J. H., Gillooly, J. F., Allen, A. P.,
Savage, V. M., y West, G. B. (2004). «Toward a metabolic theory of ecology». Ecology,
85(7): 1771–1789.
(10) Veliz C, Phillips-Brown M, Prunkl C,
Lechterman T. (2021). We might be afraid of black-box algorithms. Journal of
Medical Ethics, 47(5): 339-40.
(11) Rudin, C. (2019). «Stop explaining black box
machine learning models for high stakes decisions and use interpretable models
instead». Nature Machine Intelligence, 1: 206–215.
(12) Duede, E. (2023). «Deep learning opacity in
scientific discovery». Philosophy of Science, 90(5): 1089–1099.
(13) Boesch, B. (2025). «When AIs do science, it will
be strange and incomprehensible». Aeon. Publicado el 24 de abril de
2025.
(14) Humphreys, P. (2004). Extending Ourselves:
Computational Science, Empiricism, and Scientific Method. Oxford: Oxford
University Press.
(15) Uexküll, J. von. (1934/2010). A Foray into the
Worlds of Animals and Humans; with, A Theory of Meaning. Trad. Joseph D.
O’Neil. Minneapolis: University of Minnesota Press.
Fuente: Jot Down
https://www.jotdown.es/2026/07/inteligencia-artificial-cuento-borges/
