10¿Cómo la uso?

Se equivoca con toda seguridad

Hasta aquí hemos visto lo que la IA nos hace. Ahora toca ver con qué hay que tener cuidado.

Pregúntale a la IA. Fíjate en cómo contesta.

Pulsa Vamos a comprobarlo. Unas respuestas están bien y otras están mal.

Pero la IA, cuando se equivoca, lo dice igual de segura. Dice ¡Segurísimo!. Habla exactamente igual que cuando acierta.

Mira las barras. Son las mismas barras del capítulo 6. La IA elige la respuesta que suena más probable. A eso de sonar probable lo llamamos .

Que algo suene bien y que sea verdad no es lo mismo. Lo importante hay que comprobarlo siempre.

Un poco más a fondo

Para las personas mayores y para quien quiera saber más.

A que la IA se invente cosas que suenan bien se le llama alucinación. No es una avería: es una consecuencia de cómo funciona un modelo de lenguaje.

Un modelo de lenguaje no va a consultar los hechos. Como se vio en el capítulo 6, encadena lo que resulta más probable como continuación. Como lo probable y lo cierto suelen coincidir, acierta a menudo; pero en cuanto se separan, se equivoca con total seguridad. El tono no tiene ninguna relación con el porcentaje de aciertos.

Que no lo sé sea corta responde a lo mismo. En los textos escritos por personas está escrita la respuesta, no la ignorancia, así que esa expresión tiene poca probabilidad. Que los modelos de hoy digan "no estoy seguro" no ha salido solo: es el resultado de habérselo enseñado aparte.

Las seis preguntas de este capítulo son lo único que está escrito de antemano. Hay que elegir bien las formas de equivocarse para que enseñen algo, y esta es la única excepción de los catorce capítulos.