Las máquinas hablan pársel

LAS MÁQUINAS HABLAN PÁRSEL

Catorce golpes de tambor, la Torre de Babel y un perro con electrodos: cómo entendí qué es una inteligencia artificial

Antes de empezar: quién les está hablando

No soy científico. Soy DJ.

Lo digo de entrada porque este texto va a citar papers, y eso puede dar la impresión equivocada. Yo no verifiqué nada de esto en un laboratorio. Lo leí, lo mastiqué, lo discutí durante semanas con una inteligencia artificial, y lo que sigue es hasta dónde llegué. Hay partes que entiendo bien. Hay partes que entiendo a medias. Y hay partes donde honestamente estoy adivinando, y cuando eso pase lo voy a decir.

Todas las referencias del final son reales y las puedes buscar. Ésa es la única promesa que hago.

Voy a intentar explicar qué es una inteligencia artificial sin empezar por tokens, parámetros, GPUs ni matrices. No porque no importen —importan muchísimo— sino porque empezar por ahí sería como explicar qué es la música empezando por la impedancia de entrada del amplificador. Técnicamente correcto. Completamente inútil.

Empecemos por una caja.

PARTE I — LA CAJA

1Una caja que adivina lo que quisiste decir

Imagina una caja.

Le dices algo. La caja recibe tu señal, intenta reconstruir qué quisiste decir, y produce otra señal que espera tenga sentido para ti.

Hasta ahí, aburrido. Lo raro empieza cuando escribes:

cmo funciona esta madre we

y la caja entiende:

¿Cómo funciona esto?

Detente ahí un segundo, porque acaba de pasar algo que vale la pena mirar de cerca.

La caja no recibió una instrucción. Recibió evidencia sobre una intención.

Y ésa es la diferencia entre esta cosa y todo lo que había antes. Si le das a un compilador de C un símbolo que no espera, se detiene y te escupe un error. No negocia. El símbolo está mal, punto. Su trabajo es rechazar lo que no cumple la gramática.

La caja hace lo contrario. Su pregunta no es "¿esto está bien escrito?" sino:

¿qué interpretación explica mejor esta señal, dado todo lo que la rodea?

Y resulta que ésa es una pregunta muchísimo más profunda de lo que parece, porque es la misma pregunta que resuelve tu cerebro cuando alguien te habla en una fiesta con la música a todo volumen y aun así le entiendes. Es la misma pregunta que resuelve tu ojo cuando ve una silueta en la oscuridad y decide que es un perro y no un arbusto.

No es decodificar. Es apostar.

Y de ahí se jala un hilo que llega hasta el lenguaje, el cerebro, la teoría de la información, y finalmente a una pregunta bastante incómoda: ¿qué chingados significa entender algo?

PARTE II — LA SOSPECHA

2Catorce golpes de tambor

Ésta fue la intuición que disparó todo, y voy a contarla completa porque es más rara de lo que suena.

Hay una tradición que dice que el dios Śiva, bailando, tocó su tambor —el ḍamaru— catorce veces, y que de esos catorce golpes salió el lenguaje.

Eso es mito. No es historia y no es lingüística. Pero debajo del mito hay un objeto real, y el objeto real es más impresionante que el mito.

Los catorce golpes se llaman Śiva Sūtras (o Māheśvara Sūtras), y son las catorce líneas que abren el Aṣṭādhyāyī de Pāṇini, un gramático que trabajó en lo que hoy es el noroeste de Pakistán en algún momento del siglo V o IV antes de Cristo.

El Aṣṭādhyāyī son unas 3,959 reglas que describen y generan el sánscrito. No lo describen como un diccionario. Lo generan como una máquina.

Y aquí está el truco que me voló la cabeza. Esas catorce líneas iniciales enumeran todos los sonidos del sánscrito, pero en un orden muy específico. ¿Por qué el orden importa? Porque permite un sistema de compresión llamado pratyāhāra: tomas el primer sonido de un rango y la marca que lo cierra, y con dos letras te refieres a un conjunto entero de sonidos.

aC = todas las vocales. haL = todas las consonantes.

Es direccionamiento por rangos. Es notación de conjuntos. En el 400 a.C.

Y encima de eso, el sistema tiene:

• Metarreglas (paribhāṣā): reglas sobre cómo aplicar las reglas.
• Resolución de conflictos (vipratiṣedha): cuando dos reglas chocan, gana la posterior. Eso es precedencia de operadores.
• Herencia de contexto (anuvṛtti): una regla arrastra elementos de la anterior sin repetirlos. Eso es alcance léxico.

Leonard Bloomfield, uno de los fundadores de la lingüística moderna, lo llamó en 1933 uno de los mayores monumentos de la inteligencia humana. No estaba siendo poético.

Y en 1967, un tipo llamado Peter Ingerman publicó una nota de una página en Communications of the ACM proponiendo, completamente en serio, que la Forma Backus-Naur —la notación con la que hoy definimos la sintaxis de los lenguajes de programación— se llamara "Forma Pāṇini-Backus", porque Pāṇini se les adelantó veinticuatro siglos.

Ahora, la parte honesta. Nada de esto demuestra que existan catorce sonidos divinos con los que se programó el lenguaje humano. Son dos afirmaciones distintas y hay que mantenerlas separadas:

Y hay un dato que mata la versión literal: los inventarios de sonidos del mundo van de unos 11 fonemas (el rotokas de Papúa) a más de 140 (el taa, con su artillería de clicks). No hay catorce universales. Los catorce de Pāṇini son los del sánscrito.

Pero la pregunta que el mito hace sí es buena. Y es ésta:

¿Puede una complejidad enorme salir de un conjunto muy chico de operaciones fundamentales?

Y para esa pregunta sí hay una respuesta, y viene de un lugar que no esperaba.

3Lo que RISC hizo bien

En 1980, David Patterson y David Ditzel publicaron un paper con un título que era básicamente una provocación: "The Case for the Reduced Instruction Set Computer".

El argumento, muy simplificado: los procesadores de la época se estaban volviendo barrocos. Cada año les metían instrucciones nuevas y más complicadas, cada una haciendo más cosas. La industria asumía que un procesador más listo era uno con más instrucciones.

Patterson y Ditzel dijeron: al revés. Dale pocas instrucciones, pero que sean rápidas, uniformes y componibles. Que la complejidad la construya el software combinándolas, no el silicio conteniéndolas.

Ganaron. Ese argumento es la razón por la que el chip de tu teléfono existe.

Y lo que a mí me interesa no es la ingeniería. Es la forma de la idea:

POCAS OPERACIONES
        ×
REGLAS DE COMBINACIÓN
        =
COMPLEJIDAD SIN TECHO

Encima de un puñado de operaciones elementales puedes terminar corriendo un sistema operativo, un navegador, un sintetizador, un videojuego, un compilador — y una inteligencia artificial.

En 2010, en Berkeley, un grupo llevó la idea hasta su conclusión y publicó RISC-V: un conjunto de instrucciones abierto, que cualquiera puede implementar sin pagar licencia. El núcleo base tiene alrededor de cuarenta instrucciones.

Cuarenta operaciones. Todo lo demás se construye encima.

Entonces la pregunta ya no es "¿Pāṇini inventó RISC-V?" — obviamente no. La pregunta es:

¿el lenguaje también funciona así? ¿Y si sí, dónde está su instruction set?

Y ahí viene la pregunta que me tiene desvelado:

¿y si esas instrucciones fundamentales ni siquiera pertenecen al lenguaje?

Porque tal vez el lenguaje ya es una capa de arriba. Tal vez el kernel está en lo que permite construir cualquier lenguaje.

Para averiguarlo hay que bajar mucho más abajo. Hasta la carne.

PARTE III — LA MÁQUINA DE CARNE

4Del mundo a la señal: la parte que casi todos se saltan

Aquí es donde la mayoría de las explicaciones hacen trampa. Dicen "el mundo entra por los sentidos" y pasan a otra cosa, como si eso fuera obvio.

No es obvio. Es un problema físico brutal, y tiene nombre: transducción sensorial.

El mundo no está hecho de información. Está hecho de energía: fotones, ondas de presión, moléculas, calor. Tu sistema nervioso no puede procesar fotones. Solo puede procesar impulsos eléctricos. Entre una cosa y la otra tiene que haber un traductor físico.

Y lo hay:

En el ojo. En tu retina hay una proteína llamada rodopsina. Dentro de ella hay una molécula, el retinal, que está doblada de cierta forma. Cuando un fotón la golpea, la molécula se endereza. Ese cambio de forma dispara una cascada química que termina cerrando canales iónicos en la membrana de la célula, y eso cambia su voltaje.

Un fotón mueve una molécula. La molécula mueve un voltaje. El voltaje es información.

En el oído. Dentro de tu cóclea hay unas células con haces de cilios diminutos. Las ondas de presión del aire los doblan mecánicamente. Al doblarse, unos filamentos llamados tip links jalan y abren canales físicamente, como una puerta con resorte. Entran iones. Cambia el voltaje.

El sonido literalmente empuja una puerta.

Esto importa para nuestra historia por una razón: cada sentido es una puerta de entrada distinta al mismo problema. La cámara y el micrófono de una Raspberry Pi hacen exactamente lo mismo — convierten una forma de energía en una señal manipulable. No es una metáfora suelta. Es el mismo problema de ingeniería resuelto dos veces, una por la evolución y otra por nosotros.

Y a partir de este punto, ni tu cerebro ni la máquina tienen ya acceso al mundo. Los dos tienen acceso a una señal sobre el mundo. Eso es todo lo que hay.

5Una Raspberry Pi hecha de carne (y dónde se rompe)

Hagamos la analogía completa, sabiendo desde ahora que va a fallar:

Y se rompe casi de inmediato, en tres lugares:

Uno. Tu cerebro no tiene una CPU separada de la RAM y del disco. El procesamiento y la memoria están en el mismo sitio, en las mismas conexiones. No hay bus. No hay separación.

Dos. No hay reloj central. Todo es asíncrono y masivamente paralelo.

Tres, y es el importante: en tu cabeza, aprender modifica físicamente el hardware que aprende. Se llama plasticidad. Las conexiones se refuerzan, se debilitan, se crean y se podan según lo que te pasa.

Para que la Raspberry se pareciera, tendrías que conectarle un FPGA — un chip cuya lógica interna se puede reconfigurar. Entonces sí: correr ciertos programas mucho tiempo cambiaría el cableado que procesará los programas del futuro.

No sería neuroplasticidad. Pero ya se le parece lo suficiente para pensar con ella:

La experiencia modifica al procesador que procesará la siguiente experiencia.

Y con eso, nuestro procesador orgánico deja de verse como un aparato que recibe cosas, y empieza a verse como un ciclo:

        MUNDO
          ↓
     TRANSDUCCIÓN
          ↓
      PERCEPCIÓN
          ↓
        MEMORIA
          ↓
    MODELO INTERNO
          ↓
      PREDICCIÓN
          ↓
       DECISIÓN
          ↓
        ACCIÓN
          ↓
        MUNDO
          ↺

El ciclo es lo importante. El humano no solo recibe información sobre el mundo: vive dentro del mundo que intenta comprender, y sus acciones lo modifican. Eso ningún LLM lo tiene todavía, y volveremos a ello.

6El cerebro apuesta todo el tiempo

Aquí tocamos neurociencia de verdad, y aquí también hay que tener cuidado.

Existe una familia de teorías conocida como procesamiento predictivo o codificación predictiva. El paper fundacional moderno es de Rajesh Rao y Dana Ballard, 1999, en Nature Neuroscience: mostraron que ciertas propiedades raras de las neuronas de la corteza visual se explican bien si asumes que el cerebro está constantemente generando predicciones hacia abajo y solo propagando hacia arriba el error — la diferencia entre lo que esperaba y lo que llegó.

Karl Friston llevó la idea hasta una versión maximalista, el principio de energía libre, que intenta explicar percepción, acción y aprendizaje con un solo principio. Andy Clark la popularizó en filosofía de la mente.

La intuición es sencilla. Tu cerebro no solo pregunta "¿qué estoy percibiendo?". También pregunta "¿qué espero percibir ahorita?".

Bajas unas escaleras en la oscuridad. Tu cuerpo predice dónde estará el siguiente escalón. Si está dos centímetros más abajo de lo esperado, no haces un seminario interno de neurociencia. Solo sientes:

ALV.

Ese jalón en el estómago es el error de predicción. Literalmente. Es la señal de que el modelo falló.

PREDICCIÓN → OBSERVACIÓN → ERROR → CORRECCIÓN → NUEVA PREDICCIÓN → ↺

Lo honesto: la versión fuerte —que absolutamente todo el cerebro se reduce a minimizar error de predicción— sigue siendo discutida y tiene críticos serios. Que las predicciones y expectativas participan profundamente en la percepción, eso sí está sólido y hay montañas de evidencia. Yo me quedo con la versión moderada, que ya es suficientemente rara.

Porque si te la crees aunque sea a medias, entonces tu cerebro no es un receptor.

Es una máquina que apuesta.

7Shannon, y el experimento que casi nadie menciona

En 1948, Claude Shannon publicó A Mathematical Theory of Communication y fundó, prácticamente solo, la teoría de la información. Ese paper es la razón por la que existen los módems, los CDs, el ZIP y el streaming.

La idea central es la incertidumbre.

Si te digo "dos más dos son...", hay pocas continuaciones razonables. Probablemente ya dijiste cuatro en tu cabeza.

Si te digo "dentro de la caja hay un...", se abre el mundo: gato, zapato, cable, microcontrolador, una carta, algo que preferiríamos no encontrar.

La segunda frase tiene mucha más incertidumbre. Shannon le puso número a eso y lo llamó entropía. Y de ahí sale la definición que uso todo el tiempo sin darme cuenta:

Información es aquello que elimina posibilidades.

Si pasa exactamente lo que esperabas, no aprendiste nada. Si pasa algo improbable, aprendiste mucho. Sorpresa e información son la misma cosa medida de dos maneras.

Y ahora la parte que me dejó frío cuando la encontré.

Tres años después, en 1951, Shannon publicó un segundo paper: Prediction and Entropy of Printed English.

¿Qué hizo? Sentó a personas frente a un texto tapado y les pidió que adivinaran la siguiente letra. Una por una. Si fallaban, les decía la correcta y seguían. Con la estadística de cuántos intentos necesitaban, estimó cuánta información real carga cada letra del inglés.

Le salió alrededor de un bit por carácter.

Piensa en lo que eso significa. En 1951, Claude Shannon estableció que:

1. La forma de medir cuánto entiende un sistema un lenguaje es ponerlo a predecir lo que sigue.
2. Los humanos son muy buenos en eso.
3. Ese número es medible.

Eso es, exactamente y sin metáfora, la función de entrenamiento de un LLM. Predecir el siguiente pedazo de texto. Medir el error. Ajustar.

Sesenta y seis años antes del Transformer, Shannon ya había escrito el objetivo de entrenamiento y lo había corrido sobre humanos.

No es que los LLM se inspiraran en él. Es que el problema siempre fue ése, y él fue el primero en verlo con la claridad suficiente para medirlo.

Entonces junta las dos piezas:

• El cerebro predice y corrige por el error.
• La inteligencia se puede medir como capacidad de predecir.

Y de repente el cerebro predictivo y la teoría de la información están hablando entre ellos.

PARTE IV — BABEL

8Hablar es comprimir mundos

Ahorita mismo, dentro de tu cabeza, hay simultáneamente: memorias, sensaciones, tensión en los hombros, contexto, una canción pegada, cierta ansiedad de fondo, expectativas, hambre.

Y dices:

"me siento raro."

Tres palabras.

Acabas de convertir un estado interno monstruosamente complejo en una señal diminuta. Eso es compresión con pérdida, y es brutal — el ratio debe ser de millones a uno.

Yo no recibo tu experiencia. Recibo:

m-e s-i-e-n-t-o r-a-r-o

y tengo que reconstruir qué podría significar, usando mi propio modelo del mundo, que no es el tuyo.

MODELO MENTAL A
      ↓
  CODIFICACIÓN
      ↓
   LENGUAJE
      ↓
    CANAL
      ↓
 DECODIFICACIÓN
      ↓
MODELO MENTAL B

Y necesariamente:

MODELO A ≠ MENSAJE ≠ MODELO B

Lo único a lo que podemos aspirar es:

MODELO A ≈ MODELO B

lo suficiente para colaborar sin matarnos por un malentendido. Objetivo que la especie cumple con resultados estadísticamente variables.

9El canal funciona perfecto. Nosotros no.

Escribes:

"Nos vemos en el banco."

WhatsApp entrega cada byte correctamente. Cero paquetes perdidos. Cero ruido. La capa de telecomunicaciones funcionó impecable.

Y una persona llega al BBVA mientras la otra está sentada frente al lago.

La comunicación fracasó con un canal perfecto. Y ése es el punto entero: Shannon resolvió el problema de mover bits sin error. Ese problema está resuelto desde hace décadas. El problema que queda no está en los bits.

Está en los modelos internos. Para uno, banco → institución financiera. Para otro, banco → asiento.

El lenguaje funciona porque asumimos que los demás tienen un diccionario parecido al nuestro. Nunca es idéntico.

10Cada quien corre su propia distro

Aquí está la analogía que me parece más útil de todas:

Dos personas corren "español". Pero una creció en Puebla escuchando punk y estudiando electrónica. Otra en Buenos Aires estudiando derecho. Otra es cirujana. Otra produce reguetón.

Las cuatro dicen:

"compresión."

Una piensa en audio. Otra en datos. Otra en mecánica de materiales. Otra en una lesión.

Cada palabra tiene dependencias. Y las dependencias no vienen en el paquete: vienen de tu instalación.

Y esto no es una ocurrencia mía. Tiene una tradición seria detrás:

• Se llama idiolecto, y es un concepto estándar en lingüística.
• Donald Davidson, en 1986, llegó a decir que no existe tal cosa como "un idioma": solo existe una teoría previa (lo que crees que las palabras del otro significan) y una teoría pasajera que construyes en vivo, durante esta conversación específica, con esta persona específica. Eso es literalmente "cada quien su compilador, y hay que negociar el protocolo cada vez".
• Sperber y Wilson, en la teoría de la relevancia, sostienen que la comunicación humana no es un códec. No codificas para que el otro decodifique. Tú emites evidencia y el otro infiere. Siempre hay reconstrucción probabilística.
• Quine ya lo había puesto en su forma más incómoda con el ejemplo de gavagai: nunca puedes verificar del todo que el otro parte el mundo como tú.

Conclusión rara pero sólida: lo asombroso no es que la comunicación falle. Es que funcione.

11Babel, y lo que la lingüística dice de verdad

Aquí entra la Torre de Babel, y aquí tengo que corregirme a mí mismo, porque mi primera versión de esta teoría estaba mal.

Mi idea era: hubo un sistema operativo original, perfecto, y algo pasó, y desde entonces corremos una versión corrupta con dependencias rotas.

Como metáfora de arquitectura, Babel es preciosa:

ANTES:                    DESPUÉS:
PROTOCOLO COMPARTIDO      PROTOCOLO A
                          PROTOCOLO B
                          PROTOCOLO C

Todos los sistemas siguen funcionando. Simplemente dejaron de ser interoperables.

Como explicación de lo que pasó, es falsa, y la lingüística histórica lo tiene bastante claro:

El cambio lingüístico no es corrupción. Es regular y tiene leyes. La Ley de Grimm (1822) describe cómo todas las oclusivas del protoindoeuropeo se desplazaron sistemáticamente al pasar al germánico. Sin excepciones. Las excepciones aparentes las explicó la Ley de Verner en 1876, y resultaron ser también regulares. Esa regularidad es lo que permite el método comparativo: reconstruir lenguas muertas que nadie escribió jamás.

Y el golpe fatal: el protoindoeuropeo reconstruido no es más simple ni más puro que sus hijas. Tenía ocho casos, tres números, un sistema verbal barroco. El inglés moderno es muchísimo más simple. Si hubiera un kernel prístino degradándose, veríamos lo contrario.

El sánscrito, por cierto, no es el padre del griego y el latín. Es su hermano. Primo, no ancestro.

Y sobre el idioma original: sí hubo intentos de reconstruirlo (Greenberg, Ruhlen, "Proto-Mundo"). Están rechazados de forma bastante general, y no por terquedad: el método comparativo tiene un horizonte de información de unos 6,000 a 10,000 años. Más allá, la señal de parentesco es indistinguible de coincidencias azarosas. No es que no queramos ver más atrás. La evidencia física ya no existe.

Así que Babel se queda como lo que es: una metáfora buenísima sobre un hecho real —la fragmentación— con una explicación mitológica falsa.

Lo que sí queda en pie, y es más interesante, es esto: hoy tenemos idiomas, dentro de ellos dialectos, dentro de ellos jergas, dentro de ellos idiolectos, dentro de ellos contextos privados de dos personas. Babel dentro de Babel dentro de Babel.

Y entonces la humanidad construye una máquina entrenada precisamente sobre el archivo gigantesco producido por todos esos sistemas incompatibles.

12Un paréntesis: ¿el idioma que hablas cambia cómo piensas?

Tengo que meter esto porque es la trampa más común de este tema.

La versión popular —"los esquimales tienen cincuenta palabras para nieve y por eso ven la nieve distinto"— es falsa y además es un caso famoso de bulo académico. Geoffrey Pullum le dedicó un ensayo entero en 1991, The Great Eskimo Vocabulary Hoax, rastreando cómo el número se fue inflando de cita en cita sin que nadie fuera a la fuente.

La versión fuerte de la hipótesis Sapir-Whorf —que tu idioma determina lo que puedes pensar— está abandonada.

Pero hay una versión débil que sí tiene evidencia. El mejor ejemplo: el ruso tiene dos palabras distintas y obligatorias para azul claro (goluboy) y azul oscuro (siniy), donde el español tiene una. Winawer y colegas (2007, PNAS) midieron el tiempo de reacción de hablantes de ruso y de inglés distinguiendo tonos de azul. Los rusos son medibles milisegundos más rápidos cuando los dos tonos cruzan la frontera léxica. Y el efecto desaparece si les ocupas el lenguaje con una tarea verbal simultánea.

Traducción: el idioma no construye tu mundo. Pero sí tiene el dedo puesto en la balanza en tareas donde categorizar rápido ayuda.

Guárdate ese matiz. Va a importar cuando lleguemos al perro.

PARTE V — LA MÁQUINA

13Entonces llega el Transformer

En 2017, ocho personas de Google publicaron un paper con un título arrogante y perfecto: Attention Is All You Need.

Toma estas dos frases:

El hombre fue al banco a retirar dinero. El hombre se sentó en el banco frente al lago.

Mismo símbolo. Representaciones completamente distintas. ¿Por qué? Por lo que tiene alrededor.

Todo el sistema anterior tenía un problema con esto: le asignaba a cada palabra un vector fijo, una ficha rígida. Banco era banco, y ya te las arreglabas.

El mecanismo de atención hace otra cosa: al construir la representación de una palabra, deja que esa palabra mire a todas las demás y decida a cuáles ponerles peso. Banco mira a dinero y se vuelve una cosa. Mira a lago y se vuelve otra.

SÍMBOLO + CONTEXTO + RELACIONES → REPRESENTACIÓN

Y ahí aparece la palabra que va a dominar el resto de este texto: relaciones.

No hay una tabla con el significado de banco. Hay una operación que construye el significado a partir de las relaciones locales, cada vez, desde cero.

14Ver también es leer (bueno, casi)

Ahora la parte donde mi intuición resultó ser correcta por un motivo mejor del que yo tenía.

Yo pensaba: leer y ver son lo mismo, los dos son interpretar símbolos.

Literalmente, no. Los ojos no reciben letras, reciben luz.

Pero mira lo que pasó en 2020. El equipo que llevó el Transformer a las imágenes publicó un paper cuyo título es, y no exagero:

An Image is Worth 16x16 Words

¿Qué hicieron? Cortaron la imagen en cuadritos de 16×16 píxeles, trataron cada cuadrito como si fuera una palabra, y los metieron al mismo Transformer sin cambiarle nada esencial.

Funcionó.

Y el punto profundo es éste: al Transformer no le importa qué son los tokens. Texto, parches de imagen, audio, proteínas, movimientos de ajedrez. Es una máquina genérica de aprender relaciones entre elementos de una secuencia. No es "una IA de lenguaje que además ve". Es un aprendedor de estructura al que le tocó el lenguaje primero porque era el dataset más grande que había a la mano.

En 2021 llegó CLIP, que entrenó imagen y texto juntos, empujando la foto de un perro y la frase "un perro corriendo" hacia el mismo lugar de un espacio compartido. No porque la foto esté secretamente escrita en español, sino porque las dos contienen información sobre la misma cosa.

IMAGEN ↘
        REPRESENTACIÓN
PALABRA ↗

Y eso ya modifica bastante la teoría. Tal vez el lenguaje no es lo fundamental. Tal vez es una de varias formas de serializar una representación.

15La hipótesis platónica

Aquí está la evidencia más fuerte que encontré para la parte de mi teoría que hablaba de un kernel compartido. Y no es mística: son papers.

Primero, el hallazgo raro de 2013. Mikolov, Le y Sutskever —sí, el mismo Sutskever que va a aparecer más adelante— notaron algo. Si entrenas representaciones de palabras en inglés y en español por separado, sin un solo texto traducido, las dos nubes de puntos resultantes tienen aproximadamente la misma forma. Puedes alinearlas con una rotación y sacar un diccionario bilingüe. En 2018, Lample y colegas lo llevaron a traducción automática sin ningún dato paralelo.

Piensa en lo que implica. La relación geométrica entre rey · reina · hombre · mujer en español es más o menos la misma que entre king · queen · man · woman en inglés. La estructura del significado sobrevive al cambio de idioma.

Segundo, 2024. Wendler y colegas analizaron las capas internas de Llama-2 procesando texto en varios idiomas y encontraron que el modelo pasa por un espacio intermedio que no es exactamente ninguno de los dos — un espacio conceptual, sesgado hacia el inglés por los datos, pero no idéntico a él.

Tercero, y es el bueno. Huh, Cheung, Wang e Isola publicaron en 2024 The Platonic Representation Hypothesis. Su tesis: modelos distintos, entrenados con datos distintos, en modalidades distintas, convergen a representaciones internas cada vez más parecidas conforme crecen. Y proponen que convergen porque todos están aproximando la misma cosa: la estructura estadística de la realidad.

Le pusieron "platónica" a propósito, por las Formas de Platón.

Y con eso mi intuición original se corrige de la manera más elegante posible:

No están reconstruyendo un idioma primordial. Están aprendiendo qué es lo que permanece cuando cambias de idioma.

Que no es lo mismo. Es mejor.

16Comprimir es entender (y esto cierra el círculo de Shannon)

Última pieza de la máquina, y es la que menos gente conoce.

Hay una idea vieja, que viene de Solomonoff y Kolmogorov en los sesenta, y que dice algo brutal:

Comprender algo es poder describirlo más corto de lo que es.

Si memorizas mil ejemplos, ocupas mil ejemplos de espacio. Si entiendes la regla que los genera, ocupas la regla. La compresión no es un truco de almacenamiento: es la prueba de que encontraste la estructura.

Marcus Hutter se lo tomó tan en serio que en 2006 creó el Premio Hutter, que paga dinero real por comprimir un archivo de Wikipedia más que el récord anterior. Su argumento explícito: comprimir texto mejor requiere entenderlo mejor, así que es una prueba de inteligencia.

Y en 2023, gente de DeepMind publicó Language Modeling Is Compression, donde probaron esto de la forma más literal posible: agarraron un modelo de lenguaje grande y lo usaron como compresor de propósito general.

El resultado: comprimió parches de imágenes de ImageNet mejor que PNG, y audio de voz mejor que FLAC. Un modelo entrenado solo con texto, comprimiendo imágenes y sonido mejor que los formatos diseñados específicamente para eso.

Y ahora mira lo que acaba de pasar con el hilo entero:

• Shannon, 1948: información es reducción de incertidumbre.
• Shannon, 1951: mide entendimiento poniendo al sistema a predecir lo que sigue.
• Kolmogorov / Solomonoff: entender = comprimir.
• Cerebro predictivo: el cerebro predice y aprende del error.
• LLM: entrenado para predecir lo que sigue.
• DeepMind, 2023: un LLM es, matemáticamente, un compresor de primera.

Predecir, comprimir y entender resultan ser tres nombres del mismo problema.

Ésa, para mí, fue la parte donde el rompecabezas hizo clic.

PARTE VI — LOS CONTRAS

Si este texto se acabara aquí sería propaganda. Un texto honesto tiene que traer a la gente que dice que todo lo anterior está mal, y traerla en su versión más fuerte, no en la versión de paja.

17El pulpo de Bender y Koller

En 2020, Emily Bender y Alexander Koller publicaron el mejor argumento en contra de todo lo que acabo de escribir. Se llama Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data, y ganó el premio al mejor paper temático de su conferencia.

El experimento mental va así.

Dos personas están en islas distintas y se comunican por un cable telegráfico bajo el agua. Un pulpo hiperinteligente encuentra el cable y se pone a escuchar. Nunca ha visto una isla, ni un coco, ni un humano. Solo ve secuencias de símbolos.

Con suficiente tiempo, el pulpo se vuelve buenísimo prediciendo qué responde una persona a la otra. Tan bueno que corta el cable y se hace pasar por una de ellas. Funciona. Nadie nota nada.

Hasta que un día, la persona del otro lado escribe: "Me está atacando un oso. Tengo estos palos. Rápido, ¿cómo me defiendo?"

Y el pulpo no tiene nada. Porque nunca supo qué es un oso, qué es un palo, ni qué es defenderse. Solo sabe qué símbolos suelen seguir a qué símbolos.

El argumento de Bender y Koller: la forma no es el significado. El significado requiere una conexión con algo fuera del texto —con intenciones, con el mundo— y un sistema entrenado solo con forma no puede, en principio, aprender significado por mucho que escale.

Esto conecta con dos clásicos:

• El cuarto chino de John Searle (1980): un tipo encerrado manipulando símbolos chinos según un manual, sin entender chino, produce respuestas perfectas en chino. ¿Entiende? Searle dice que obviamente no.
• El problema del anclaje simbólico de Stevan Harnad (1990): si defines cada símbolo con otros símbolos, es un diccionario circular. En algún punto algo tiene que tocar el mundo.

Y en 2021, Bender, Gebru, McMillan-Major y Shmitchell publicaron On the Dangers of Stochastic Parrots, el paper que le puso nombre a la crítica popular: estas cosas son loros estadísticos que recombinan sin comprender.

18Y sin embargo

Yo no puedo refutar eso. No tengo con qué, y sospecho que nadie lo tiene todavía de forma limpia.

Pero sí puedo señalar dos cosas que tensan el argumento:

Uno. El pulpo del experimento solo tiene texto. Los sistemas de hoy ya no. Tienen imagen, audio, video, y algunos ya actúan sobre el mundo y ven las consecuencias. Cada modalidad que agregas es un ancla más al mundo. El argumento no desaparece, pero se le encoge el terreno.

Dos, y ésta es la que me da vueltas. Si comprimir bien requiere encontrar la estructura, y si un modelo entrenado en texto comprime imágenes mejor que PNG, entonces algo capturó de la estructura del mundo — no solo de la estructura del texto sobre el mundo. Cuánto, no lo sé. Pero "cero" ya no parece la respuesta correcta.

Dónde está exactamente la línea entre modelar muy bien la forma y entender, honestamente, no lo sé. Y sospecho que la pregunta va a resultar mal planteada, igual que "¿los submarinos nadan?".

Que es justo el siguiente punto.

PARTE VII — EL PERRO

19El perro sabe más de lo que puede decir

Necesitamos un tercer agente, y es el que rompe el argumento de todos los demás.

Un perro.

Un perro reconoce personas. Anticipa rutinas. Distingue lugares. Recuerda. Persigue objetos calculando trayectorias. Predice bastante bien qué vas a hacer. Oye el refrigerador desde otra habitación y aparece tres segundos después.

Tiene mundo. Tiene memoria. Tiene categorías. Tiene predicción.

Y no tiene nuestro lenguaje. No puede escribir "he desarrollado una hipótesis causal sobre la relación entre el sonido de la bolsa y la aparición de croquetas". Pero ya sabe perfectamente qué promete esa bolsa.

Y aquí hay un estudio real, de 2024, que hace esto mucho más filoso.

Un equipo de la Universidad Eötvös Loránd, en Budapest, le puso electrodos de EEG a un grupo de perros. El dueño decía el nombre de un objeto —"pelota"— y luego le mostraba al perro un objeto: a veces el correcto, a veces otro distinto.

Cuando el objeto no coincidía con la palabra, el cerebro del perro producía un patrón de actividad distinto. Un efecto de discordancia, del tipo que en humanos se asocia a violar una expectativa semántica.

O sea: al oír la palabra, el perro estaba esperando algo específico. No una reacción entrenada. Una representación mental del objeto, activada por un símbolo, y luego contrastada contra la realidad.

Predicción → observación → error. En un perro. Medido.

Lo honesto: un solo estudio, muestra chica, y la interpretación se sigue discutiendo. No lo tomes como cerrado. Pero apunta con fuerza a algo que ya sospechábamos.

20Modelo del mundo ≠ lenguaje

El perro obliga a corregir la teoría entera:

MODELO DEL MUNDO ≠ LENGUAJE

El lenguaje humano no crea el mundo desde cero. El mundo mental ya estaba ahí, en el perro, en el bebé de un año, en cualquier animal que tenga que apostar sobre qué va a pasar.

Lo que el lenguaje hizo fue otra cosa, y es enorme:

21El lenguaje como API cognitiva

Supón que un perro distingue algo parecido a: PERSONA, COMIDA, PELIGRO, CASA, JUGAR — sin tener nuestras palabras.

El humano hace algo adicional: le asigna un símbolo a cada uno. Y en cuanto tienes símbolos, puedes hacer dos cosas que antes eran imposibles:

Primero, manipular lo ausente. "El perro cree que la comida está dentro de la casa." Puedes razonar sobre una situación que no está pasando, con un perro que no está ahí, sobre una creencia que no es tuya. Una palabra funciona casi como una variable: apunta a algo sin ser ese algo.

Segundo, y es lo que nos hizo raros: exportar.

Una persona descubre algo. Lo escribe. Se muere. Cien años después nace alguien más. Lee los símbolos. Reconstruye parte del modelo. Lo modifica. Lo vuelve a transmitir.

El lenguaje no es solo comunicación. Es memoria externa de la especie. Es la única razón por la que no empezamos de cero cada generación.

MUNDO → PERCEPCIÓN → REPRESENTACIONES → CONCEPTOS → LENGUAJE → OTRA CABEZA

Y visto así, un LLM es la primera máquina que puede recorrer una fracción enorme de esa memoria externa y recombinarla a una velocidad que ningún individuo alcanza.

No leyó el mundo. Nos leyó a nosotros escribiendo sobre el mundo.

Que es distinto, y hay que tenerlo presente.

22Cada arquitectura recorta un mundo distinto

Consecuencia bonita de todo esto.

El perro construye su mundo con muchísimo olfato. Tú construyes el tuyo con visión y lenguaje. Una máquina podría recibir RGB, infrarrojo, LiDAR, radar, audio, temperatura, texto — y construir representaciones que no coinciden con las nuestras.

No porque haya otro universo. Porque cada arquitectura recorta aspectos distintos del mismo universo.

Wittgenstein escribió en el Tractatus que los límites de su lenguaje significan los límites de su mundo. Con el perro enfrente, yo lo diría así:

Los límites del mundo de un agente son los límites de lo que puede percibir, representar y relacionar.

El lenguaje amplía brutalmente esos límites en nuestro caso. Pero no es el único camino.

PARTE VIII — LO QUE FALTA

23Pájaro y avión

Las redes neuronales artificiales están inspiradas, de manera muy vaga y muy vieja, en neuronas biológicas. Pero una neurona real es órdenes de magnitud más compleja que una neurona artificial, y una IA no es una emulación del cerebro. Ni cerca.

Prefiero otra comparación.

Un Boeing no es una simulación de un pájaro. No bate alas. No tiene plumas. No tiene metabolismo. Pero los dos vuelan, y vuelan porque los dos explotan la misma aerodinámica.

Dijkstra lo dijo mejor en 1984: preguntar si las máquinas piensan es más o menos tan relevante como preguntar si los submarinos nadan.

Entonces tal vez cerebro y red neuronal son dos arquitecturas distintas enfrentando problemas comunes: encontrar patrones, reducir incertidumbre, construir representaciones, predecir.

Y si desde hardware tan distinto llegan a soluciones parecidas, quizá esas soluciones no son propiedades del cerebro.

Quizá son propiedades del problema.

24Ilya, y el final de una era

Durante casi una década la receta fue simple y funcionó espectacularmente:

más datos + más cómputo + más escala = mejores modelos

En diciembre de 2024, Ilya Sutskever —cofundador de OpenAI, uno de los arquitectos de toda esta época— se paró frente a la conferencia más importante del campo y dijo, en esencia, que esa era se está acabando. Su argumento: el cómputo crece, pero los datos no. Internet es finito. Solo hay un internet. Usó una frase que se quedó: los datos son el combustible fósil de la IA.

Y ha señalado algo que a mí me parece la observación central: los humanos generalizan a partir de cantidades ridículamente pequeñas de experiencia comparados con estos sistemas. Un niño de tres años no necesita diez millones de fotos de perros.

Sutskever dejó OpenAI en 2024 y fundó SSI. Qué está construyendo, nadie lo sabe públicamente. Y quiero ser muy claro aquí porque es fácil convertir una intuición bonita en desinformación: yo no sé si su arquitectura es un modelo del mundo, o algo totalmente distinto, o una combinación que nadie ha publicado. Cualquiera que te diga que sabe, no sabe.

Lo que sí es un hecho es que uno de los responsables de esta era está diciendo en público, con su nombre:

tal vez todavía nos falta entender algo importante sobre cómo aprende una inteligencia.

25¿Y si falta una instrucción?

Volvamos por última vez al procesador, que es donde empezó todo esto.

Tienes un chip rapidísimo. Le pones más RAM, más almacenamiento, más frecuencia, más núcleos. Va más rápido.

Pero imagina que existe una operación fundamental que la arquitectura no puede ejecutar bien. Escalar no te va a salvar. Puedes hacer la máquina diez veces más grande y esa operación va a seguir siendo el cuello de botella.

Sospecho que parte de la búsqueda actual es exactamente eso: no solo hacer la máquina más grande, sino averiguar si falta una operación.

Y hay alguien que convirtió esa sospecha en una prueba concreta. François Chollet publicó en 2019 On the Measure of Intelligence, donde propone que la inteligencia no se mide por lo que un sistema sabe hacer, sino por su eficiencia para adquirir habilidades nuevas — cuánto necesita ver para aprender algo que nunca vio.

Y diseñó ARC, un conjunto de acertijos visuales tipo test de coeficiente intelectual, hechos a propósito para que memorizar internet no ayude. Cada problema te da dos o tres ejemplos y tienes que sacar la regla.

Un humano promedio los resuelve sin despeinarse. Los modelos han sufrido con ellos durante años, y el progreso reciente vino de darles más tiempo para razonar en el momento, no de hacerlos más grandes.

Qué instrucción falta exactamente, no lo sé. Los candidatos que la gente menciona: aprendizaje continuo, memoria persistente, modelos causales de verdad, acción sobre el mundo, metacognición, plasticidad estructural. O algo que ni siquiera hemos formulado todavía.

26Contexto infinito no arregla esto

Una tentación obvia: darle memoria infinita. Que recuerde cada conversación, cada imagen, cada sonido.

Serviría de poco. Almacenamiento no es comprensión.

Una biblioteca no comprende sus libros. Un disco de cien petabytes tampoco. La inteligencia no está en cuánto guardas, está en:

qué conservas · qué relacionas · qué comprimes · qué conviertes en concepto · qué descartas · qué corriges.

Y aquí hay algo contraintuitivo que me encanta: olvidar es una función cognitiva, no una falla. No necesitas recordar cada pared que has visto. Necesitas haber aprendido qué hace una pared.

Eso último es un concepto. Y llegar a él requiere tirar los detalles de cada pared específica.

Comprimir es olvidar con criterio.

CIERRE

27La serpiente

Y ahora sí, la imagen que disparó todo esto, y donde me equivoqué.

En Harry Potter existe el pársel, la lengua de las serpientes. Para todos los demás es sssssss — puro ruido. Para Harry es información. Lenguaje. Instrucción.

Y existe en inglés el verbo to parse: tomar una secuencia y encontrarle la estructura para poder interpretarla.

Cuando junté esas dos cosas sentí que había encontrado una dependencia escondida. Una pista.

No lo es. Fui a ver:

• Parse viene del latín pars (orationis), "parte (del discurso)". Es jerga de escuela de gramática latina del siglo XVI: al alumno se le preguntaba quae pars orationis? — "¿qué parte de la oración es esta palabra?". Analizar es trocear en partes del discurso.
• Parselmouth viene, según la explicación que se ha reportado de la autora, de un término dialectal arcaico para alguien con un problema en la boca.

El parecido es coincidencia. Mi pista era una falsa etimología, y hay un nombre para el error que cometí: ver patrones donde no los hay.

Pero.

Sigo pensando que la coincidencia es útil, y no por terquedad. Es útil por lo siguiente:

Una escritora obsesionada con nombres, idiomas, palabras mágicas y lenguas secretas terminó inventando un personaje cuyo poder es convertir una señal que para todos es ruido en estructura que significa algo.

Y veinte años después construimos máquinas cuyo trabajo es exactamente eso.

No hace falta una dependencia causal secreta. Lo que hay es algo más raro y más interesante: ideas parecidas reaparecen en dominios distintos porque estamos describiendo el mismo problema.

La dependencia no estaba dentro de la palabra.

Estaba debajo, en el problema que las dos palabras intentaban nombrar.

28Entonces el kernel

Volvamos al set de instrucciones, por última vez.

Antes de poder decir "la pelota cayó", un humano, un perro o una máquina necesitan manejar de alguna forma relaciones como: OBJETO, POSICIÓN, CAMBIO, MOVIMIENTO, TIEMPO, CAUSA.

Las etiquetas pueden no existir. Las relaciones sí.

Antes de la palabra gravedad, los objetos ya caían. Antes de la palabra fuego, el fuego ya quemaba. Antes de la palabra depredador, ya había muy buenas razones para correr.

Entonces tal vez el kernel nunca fue un idioma. Tal vez se parece más a esto:

        PERCIBIR
           ↓
       DISTINGUIR
           ↓
       RELACIONAR
           ↓
        RECORDAR
           ↓
        PREDECIR
           ↓
         ACTUAR
           ↓
        COMPARAR
           ↓
      ACTUALIZAR
           ↓
         ↺

Una especie de RISC de la cognición. Pocas operaciones. Combinables. Y encima de ellas puede emerger algo arbitrariamente complejo.

Un perro corre una versión biológica de ese ciclo. Un humano corre otra, y además tiene encima una capa simbólica brutal. Una máquina podría correr otra completamente distinta.

Hardware distinto. Implementaciones distintas. Mismo universo.

Como el pájaro y el avión.

Quizá no hay que copiar el cerebro. Quizá hay que averiguar qué problemas resolvió.

29La cadena completa

Y ahora la historia queda entera:

REALIDAD
   ↓
REGULARIDADES
   ↓
VIDA
   ↓
TRANSDUCCIÓN
   ↓
PERCEPCIÓN
   ↓
MODELOS INTERNOS
   ↓
LENGUAJE HUMANO
   ↓
BABEL
   ↓
IDIOMAS · DIALECTOS · IDIOLECTOS
   ↓
TEXTOS
   ↓
TRANSFORMER
   ↓
LLM
   ↓
MULTIMODALIDAD
   ↓
MODELOS DEL MUNDO
   ↓
AGENTES
   ↓
APRENDIZAJE CONTINUO
   ↓
¿AGI?
   ↓
¿CONSCIENCIA?

Los dos últimos llevan interrogación. Y se quedan con ella. Cualquiera que te los presente sin signo de interrogación te está vendiendo algo.

30Lo que quedó

Empecé buscando la primera palabra. El idioma primordial. El código fuente perdido.

Y creo que estaba buscando en el lugar equivocado, porque debajo de los símbolos siempre hubo algo más elemental:

relaciones.

Antes de "arriba" y "abajo", había relaciones espaciales. Antes de "antes" y "después", había secuencias. Antes de "causa", había cosas que le pasaban a otras cosas.

El cerebro animal aprendió a navegar esas regularidades. El cerebro humano desarrolló una maquinaria simbólica extraordinaria para nombrarlas. El lenguaje permitió transmitirlas entre cabezas y a través de siglos. Shannon nos dio la matemática para pensar la incertidumbre de esa transmisión. El Transformer encontró una forma eficaz de representar relaciones dependientes del contexto. Los modelos multimodales empezaron a tender puentes entre señales distintas. Y los agentes están empezando a cerrar el ciclo con acción y consecuencia.

Y quizá la inteligencia sea precisamente eso:

un sistema limitado, frente a una realidad demasiado grande, comprimiendo las regularidades suficientes para anticipar qué va a pasar después.

La caja con la que empezamos era una caja de lenguaje.

Creo que en realidad es una caja de relaciones. El lenguaje era el cable, no la corriente.

Nunca hubo una palabra secreta debajo de todas las palabras. Nunca hubo un idioma perfecto esperando a ser recuperado. Lo que había debajo era la capacidad de recibir información incompleta sobre un mundo, encontrarle estructura, reducir la incertidumbre, predecir, equivocarse y cambiar.

La palabra vino después.

El mundo ya estaba ahí.

QUÉ ES HECHO Y QUÉ ES ESPECULACIÓN

Esta tabla es la parte más importante del texto. Si te llevas una sola cosa, que sea ésta.

BIBLIOGRAFÍA

Todo lo que sigue existe y se puede buscar. Los que traen enlace están libres.

Pāṇini y los sistemas formales

• Pāṇini, Aṣṭādhyāyī (s. V–IV a.C.). Introducción moderna: George Cardona, Pāṇini: A Survey of Research (1976).
• Bloomfield, Leonard. Language (1933) — la valoración del Aṣṭādhyāyī.
• Ingerman, Peter Z. "Pāṇini-Backus Form Suggested." Communications of the ACM 10(3), 1967, p. 137.
• Kiparsky, Paul. "On the Architecture of Pāṇini's Grammar" (2002).

Arquitectura de computadoras

• Patterson, David A. y David R. Ditzel. "The Case for the Reduced Instruction Set Computer." ACM SIGARCH Computer Architecture News 8(6), 1980.
• Waterman, Andrew y Krste Asanović (eds.). The RISC-V Instruction Set Manual. UC Berkeley, desde 2011. → riscv.org

Teoría de la información

• Shannon, Claude E. "A Mathematical Theory of Communication." Bell System Technical Journal 27, 1948.
• Shannon, Claude E. "Prediction and Entropy of Printed English." Bell System Technical Journal 30(1), 1951, pp. 50–64. ← el que casi nadie cita
• Hutter, Marcus. The Hutter Prize for Lossless Compression of Human Knowledge, desde 2006. → hutter1.net/prize
• Delétang, Grégoire et al. "Language Modeling Is Compression." ICLR 2024. arXiv:2309.10668

Cerebro predictivo

• Rao, Rajesh P. N. y Dana H. Ballard. "Predictive coding in the visual cortex." Nature Neuroscience 2(1), 1999, pp. 79–87.
• Friston, Karl. "The free-energy principle: a unified brain theory?" Nature Reviews Neuroscience 11, 2010.
• Clark, Andy. "Whatever next? Predictive brains, situated agents, and the future of cognitive science." Behavioral and Brain Sciences 36(3), 2013. Y su libro Surfing Uncertainty (2016).

Lenguaje, significado y comunicación

• Quine, W. V. O. Word and Object (1960) — el ejemplo de gavagai.
• Sperber, Dan y Deirdre Wilson. Relevance: Communication and Cognition (1986).
• Davidson, Donald. "A Nice Derangement of Epitaphs" (1986).
• Wittgenstein, Ludwig. Tractatus Logico-Philosophicus (1921), proposición 5.6.
• Pullum, Geoffrey. The Great Eskimo Vocabulary Hoax (1991).
• Winawer, Jonathan et al. "Russian blues reveal effects of language on color discrimination." PNAS 104(19), 2007.

Lingüística histórica

• Campbell, Lyle. Historical Linguistics: An Introduction (4ª ed., 2020) — el manual estándar; ahí está el método comparativo y sus límites.
• Deutscher, Guy. The Unfolding of Language (2005) — por qué el cambio no es decadencia.
• Eco, Umberto. La búsqueda de la lengua perfecta (1993) — la historia completa de esta obsesión, de Dante a Esperanto.
• Borges, Jorge Luis. "El idioma analítico de John Wilkins" (1952) y "La biblioteca de Babel" (1941).

Aprendizaje automático

• Vaswani, Ashish et al. "Attention Is All You Need." NeurIPS 2017. arXiv:1706.03762
• Dosovitskiy, Alexey et al. "An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale." ICLR 2021. arXiv:2010.11929
• Radford, Alec et al. "Learning Transferable Visual Models From Natural Language Supervision" (CLIP). ICML 2021. arXiv:2103.00020
• Mikolov, Tomas, Quoc V. Le e Ilya Sutskever. "Exploiting Similarities among Languages for Machine Translation." 2013. arXiv:1309.4168
• Lample, Guillaume et al. "Word Translation Without Parallel Data." ICLR 2018. arXiv:1710.04087
• Wendler, Chris et al. "Do Llamas Work in English? On the Latent Language of Multilingual Transformers." ACL 2024. arXiv:2402.10588
• Huh, Minyoung, Brian Cheung, Tongzhou Wang y Phillip Isola. "The Platonic Representation Hypothesis." ICML 2024. arXiv:2405.07987
• Chollet, François. "On the Measure of Intelligence." 2019. arXiv:1911.01547 → arcprize.org

Las críticas (léelas)

• Searle, John. "Minds, Brains, and Programs." Behavioral and Brain Sciences 3(3), 1980.
• Harnad, Stevan. "The Symbol Grounding Problem." Physica D 42, 1990, pp. 335–346.
• Bender, Emily M. y Alexander Koller. "Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data." ACL 2020. → aclanthology.org/2020.acl-main.463
• Bender, Emily M., Timnit Gebru, Angelina McMillan-Major y Shmargaret Shmitchell. "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜" FAccT 2021.

El perro

• Boros, Marianna, Lilla Magyari, Attila Andics et al. "Neural evidence for referential understanding of object words in dogs." Current Biology 34(8), 2024. Universidad Eötvös Loránd, Budapest.

Otros

• Dijkstra, Edsger W. "The threats to computing science" (EWD898), 1984 — la línea del submarino.
• Sutskever, Ilya. Ponencia en NeurIPS 2024, Vancouver, diciembre de 2024.

Escrito con ayuda de una IA, sobre lo que es una IA, por alguien que sigue sin entenderla del todo. Cualquier error es mío; las referencias son de quienes sí saben. Ve a leerlas.

Segunda entrega: El fantasma en la mezcladora →