6¿Cómo lo hace?

El juego de acertar lo que viene

En el capítulo 3 la IA seguía la música. ¿Cómo lo hacía?

Ahora vamos a hacerlo con palabras. Elige la palabra que viene y ve montando la frase.

Al lado de cada palabra hay una barra. Cuanto más larga, más probable es esa palabra.

¿De dónde sale la barra? Es las veces que la máquina ha contado esa palabra mientras leía cuentos. Si después de Poco ha salido nueve veces canta, esa barra es larga. Cuando en un hueco solo cabe una palabra, el ejercicio lo pasa solo: tú solo eliges donde de verdad hay algo que elegir.

Pulsa Que la IA lo siga sola. La máquina elige igual que tú.

A eso de acertar lo que viene después lo llamamos .

Los dibujos se hacen igual. Acertar lo que viene: eso es lo que hace la IA.

Un poco más a fondo

Para las personas mayores y para quien quiera saber más.

Esas barras son un modelo de lenguaje de n-gramas. Es el método que usó Shannon en los años cuarenta al fundar la teoría de la información, y es el punto de partida de los modelos de lenguaje.

Si eliges la palabra siguiente mirando la anterior, es un bigrama; mirando dos, un trigrama. La longitud de la barra no es un número inventado: es la cuenta real hecha sobre el corpus.

Los grandes modelos de lenguaje de hoy hacen lo mismo: acertar el trozo que viene. Lo que cambia es que, en vez de una tabla contada, una red neuronal aprende esa relación como una función. Con una tabla, en cuanto miras diez palabras hacia atrás el número de casos supera al de átomos del universo: no hay nada que contar.

Que al hacer solo eso, y hacerlo muy bien, aparecieran de propina la conversación, el resumen y la traducción es el mayor descubrimiento de estos últimos años. Nadie esperaba que ocurriera.

Que el niño se dé cuenta de que este ejercicio usa el mismo método que el capítulo 3 es el punto crítico de la parte 2. Allí se contaban notas y aquí palabras. Que el material cambie y el método no es la llave para entender la IA.