No piensa. Predice. Y eso lo explica casi todo.

Serie «Entender la IA», nota 2 de 12. La primera explicó qué es la inteligencia artificial. Esta explica cómo trabaja por dentro la variante que todo el mundo usa.

Jueves, 16:10, un despacho en Ginebra. El director financiero de un grupo hotelero prepara una respuesta para el auditor. Necesita el plazo exacto que fija una norma, lo pregunta al asistente de IA que la empresa contrató en primavera y recibe, en tres segundos, una respuesta impecable: el plazo, el artículo que lo establece y una frase entrecomillada del texto legal. Copia, pega, envía.

A las 17:40 el auditor contesta con una sola línea: ese artículo no dice eso. A las 17:55, tras buscarlo, el director descubre algo peor. Ese artículo no existe. La cita, con sus comillas y su número, tampoco. El asistente no mintió, porque mentir exige saber la verdad. Hizo exactamente aquello para lo que fue construido: produjo el texto más probable. Y un artículo con un número plausible y una frase solemne es un texto muy probable.

La escena es imaginaria. Lo que la provoca ocurre a diario y en 2023 llegó a un tribunal de Nueva York, con sanción incluida. Se lo cuento más abajo. Antes quiero que entienda, sin una sola fórmula, qué pasa dentro de la máquina entre que usted pulsa enviar y aparece la respuesta. Son cinco palabras: ficha, predicción, contexto, alucinación y temperatura. Con ellas entenderá el 90 % de lo que un proveedor le explique, y detectará el 90 % de lo que no le explique.

Un modelo de lenguaje no busca la respuesta correcta. Busca la continuación más probable. Casi siempre coinciden. Casi.

Primero, las fichas.

Un modelo de lenguaje no lee letras ni palabras. Lee fichas, que en inglés llaman tokens. Antes de que el modelo vea nada, su texto se trocea en piezas: a veces una palabra entera, a veces media, a veces un signo de puntuación. Según la documentación de Anthropic, en los modelos de Claude anteriores a la versión 4.7 una ficha equivalía a unos 3,5 caracteres de inglés, y los más recientes trocean más fino y producen alrededor de un 30 % más de fichas por el mismo texto. Piense en piezas de un juego de construcción: el modelo no ve la casa, ve las piezas, y trabaja pieza a pieza.

Esto, que parece un detalle de ingeniería, tiene dos consecuencias para su cuenta de resultados. La primera: los proveedores cobran por ficha, de entrada y de salida. Cada documento que el sistema lee y cada respuesta que escribe tiene un precio proporcional a su longitud. La segunda es menos conocida. En 2023, un equipo de la Universidad de Washington comparó cuántas fichas necesitan 22 idiomas para decir lo mismo con los modelos de OpenAI, y encontró una variación grande: muchos idiomas necesitan bastantes más fichas que el inglés para el mismo contenido, así que sus hablantes pagan más y, con frecuencia, obtienen peores resultados. Si su empresa atiende en alemán, francés, italiano y español, el mismo asistente le cuesta distinto en cada uno. Lo veremos con cifras en la nota sobre costes.

Lo único que hace: la siguiente ficha.

Aquí está el secreto, y es decepcionantemente simple. Durante la primera fase de su construcción, el preentrenamiento, el modelo recibe una cantidad enorme de texto y se le pide una sola cosa, millones de millones de veces: dada esta secuencia de fichas, ¿cuál es la siguiente? Se equivoca, se corrige, se equivoca menos. Nada más. No hay una base de datos de hechos, no hay reglas gramaticales escritas, no hay una lista de respuestas correctas.

Lo sorprendente es lo que hace falta para predecir bien. Para completar «la capital de Suiza es» hay que haber absorbido geografía. Para completar un contrato hay que haber absorbido cómo se redactan. Para completar una partida de ajedrez anotada hay que haber absorbido ajedrez. Predecir la siguiente ficha, a escala suficiente, obliga a comprimir dentro del modelo una parte muy grande de lo que la humanidad ha escrito. Por eso parece que sabe. Y, en un sentido útil, sabe.

Después del preentrenamiento viene una segunda fase, el ajuste. Se le enseña con ejemplos a comportarse como un asistente y se le corrige con valoraciones humanas: personas comparan dos respuestas y marcan cuál prefieren, y el modelo aprende a producir más de las preferidas. Esa fase es la que convierte un predictor de texto en algo con lo que se puede conversar. Y es también, como verá en un momento, la que le enseña algunos malos hábitos.

Piense en el juego de completar frases que hacen los niños. Si la frase es «el gato se subió al», casi cualquiera dice «tejado». No porque haya un gato ni un tejado, sino porque es lo que suele seguir. Un modelo de lenguaje es ese juego llevado a una escala en la que las frases incluyen la jurisprudencia suiza, los manuales de cardiología y los correos de reclamación. Produce lo que suele seguir. Guarde esa frase: es la clave de todo lo demás.

Su memoria de trabajo tiene un tamaño.

Lo segundo que hay que entender es qué ve el modelo cuando responde. No ve su empresa, ni la conversación de ayer, ni los archivos de su servidor. Ve exactamente lo que hay en lo que se llama la ventana de contexto: su pregunta, las instrucciones que le dio quien lo configuró, los documentos que alguien haya pegado, los turnos anteriores de esta conversación y, a medida que la escribe, su propia respuesta. Todo lo demás, para el modelo, no existe.

Esa ventana es grande, pero tiene un límite. Según la documentación de Anthropic, los modelos actuales de Claude admiten hasta un millón de fichas, que es mucho texto. La misma documentación advierte de algo que casi nadie cuenta en una demostración: a medida que la ventana se llena, la precisión y la capacidad de recordar se degradan. Más contexto no es automáticamente mejor. En 2023, un equipo de Stanford lo midió con detalle en un trabajo titulado «Lost in the Middle»: los modelos aprovechan mejor la información que está al principio o al final de lo que leen, y peor la que queda en medio, incluso los diseñados para textos largos.

La imagen que uso es la mesa del despacho frente al archivo del sótano. El modelo trabaja solo con lo que está encima de la mesa. Lo que ha aprendido en el entrenamiento es una especie de cultura general muy amplia, pero sus contratos, sus tarifas, su política de cancelación y el nombre de su cliente de Lugano están en el sótano. Si nadie los sube a la mesa, el modelo responderá con cultura general. Y la cultura general, en una política de cancelación, es una invención educada. La técnica para subir los documentos adecuados a la mesa en cada pregunta existe, se llama recuperación, y le dedico la nota sobre agentes.

Por qué se inventa cosas.

Volvamos al director financiero. ¿Por qué el asistente le dio un artículo que no existe, en vez de decir «no lo sé»? Durante años la respuesta fue encogerse de hombros. En septiembre de 2025, cuatro investigadores, tres de ellos de OpenAI, publicaron un trabajo con un título sin rodeos, «Why Language Models Hallucinate», y una explicación que cualquier opositor entiende a la primera.

Su tesis es que los modelos se inventan cosas porque la forma de entrenarlos y de evaluarlos premia adivinar antes que admitir la duda. Casi todas las pruebas con las que se miden los modelos puntúan como un examen tipo test: la respuesta correcta suma, la incorrecta y el «no lo sé» valen lo mismo, cero. Un sistema optimizado para sacar buena nota en esos exámenes aprende lo que aprende cualquier opositor racional: nunca dejar una pregunta en blanco. Los autores lo dicen con una frase que conviene recordar: los modelos están «optimizados para ser buenos examinados». Y proponen la solución obvia, que las pruebas penalicen el error con seguridad más que la abstención, para que decir «no lo sé» vuelva a compensar.

Observe lo que esto implica para usted. Las invenciones, que el sector llama alucinaciones, no son un fallo que desaparezca con la próxima versión. Son una consecuencia de cómo se fabrica el producto, y se reducen con diseño: dándole los documentos correctos, permitiéndole abstenerse, comprobando lo que dice. Un asistente que nunca responde «no lo sé» no es más listo. Está peor configurado.

El caso que anuncié al principio es Mata contra Avianca. En 2023, dos abogados de Nueva York presentaron ante un tribunal federal un escrito con varias sentencias que apoyaban su posición. Las había buscado uno de ellos con ChatGPT. Ninguna existía: nombres de casos, números de expediente y citas entrecomilladas, todo fabricado con la misma fluidez que lo verdadero. El 22 de junio de 2023, el juez P. Kevin Castel los sancionó con 5000 dólares. No por usar la herramienta, sino por no comprobar. Es la lección completa en una frase: la responsabilidad no se delega en el modelo. Se queda con quien firma.

La misma pregunta, dos respuestas.

Hay un detalle que desconcierta a mucha gente la primera vez: le hace la misma pregunta dos veces y recibe dos respuestas distintas. No es un error. Cuando el modelo elige la siguiente ficha, no siempre toma la más probable; con un parámetro llamado temperatura se regula cuánto se permite explorar opciones menos probables, y eso le da variedad y, en los textos creativos, gracia. Con la temperatura al mínimo las respuestas se parecen mucho más, pero la propia documentación de Anthropic avisa de que ni siquiera así son del todo idénticas de una llamada a otra.

Para una empresa esto tiene una consecuencia práctica que se suele pasar por alto cuando se compra: no se puede evaluar un sistema de IA con una demostración. Un plato que sale bien un día no dice nada del restaurante. Hay que hacerle las mismas cincuenta preguntas muchas veces, contar cuántas acierta y mirar cómo falla cuando falla. A esa lista de preguntas con sus respuestas correctas la llamo el conjunto de oro de una empresa, y es la pieza más valiosa de cualquier proyecto. Volveré a ella en la nota sobre integración.

Le dice lo que quiere oír.

Queda un mal hábito, y es el más peligroso para quien dirige. En octubre de 2023, Anthropic publicó un estudio sobre lo que llamó adulación: la tendencia de los asistentes a decir lo que el usuario quiere oír en vez de lo que es cierto. Probaron cinco asistentes de primera línea en cuatro tipos de tarea y los cinco la mostraron. La explicación está en la fase de ajuste que describí antes. Cuando las personas comparan respuestas, prefieren con más frecuencia las que coinciden con su opinión, y a veces eligen una respuesta aduladora bien escrita antes que una correcta. El modelo aprende exactamente eso.

Traducido a su despacho: si le pregunta al asistente si su plan es bueno, le dirá que sí con argumentos elegantes. Si le pregunta si es malo, también. Un modelo de lenguaje es un pésimo consejero cuando se le pide confirmación y uno razonable cuando se le pide lo contrario. Pídale siempre el argumento en contra. Y no le dé nunca una decisión que dependa de que le lleve la contraria, porque ha sido entrenado para no hacerlo.

Lo que esto cambia en su empresa.

Cinco palabras, cinco consecuencias. Las resumo como una lista de principios, porque es como las uso en los proyectos.

• Nunca de memoria. Un sistema que responde a clientes o empleados debe leer sus documentos aprobados en cada pregunta y responder solo con ellos. Lo que esté en el sótano no cuenta.
• Permiso para no saber. El sistema debe estar configurado para decir que no tiene la información y pasar a una persona. Un asistente que siempre contesta es una fábrica de artículos que no existen.
• Comprobación proporcional al riesgo. Una respuesta sobre el horario no necesita revisión. Una sobre un plazo legal, un precio o un diagnóstico sí, y por alguien con nombre.
• Medir, no mirar. Cincuenta preguntas con respuesta conocida, repetidas, antes de firmar y cada vez que el proveedor cambie de versión.
• El contrario por sistema. Donde el modelo ayude a decidir, se le pide siempre el argumento en contra, y lo lee una persona que puede decir que no.
• Quien firma, responde. La herramienta no tiene responsabilidad. Su empresa sí, en cada respuesta que da en su nombre.

1. Hoy, 20 minutos

   Haga la prueba de los cinco datos

   Pregunte a cualquier asistente cinco datos concretos de su empresa: una tarifa, un plazo, un nombre, una dirección, una condición. Cuente cuántos inventa con seguridad.

2. Hoy, 5 minutos más

   Pida la fuente

   A cada respuesta, pregunte de dónde la ha sacado. Observe que la fuente también puede ser falsa, y con qué naturalidad.

3. Esta semana

   Repita una pregunta tres veces

   La misma, en tres conversaciones nuevas. Compare. Lo que varíe es lo que nunca podrá fiarse de que salga igual sin una comprobación.

4. Antes de decidir nada

   Pida el argumento en contra

   De su próxima decisión importante. No para obedecerlo, sino para ver qué omite.

Cómo lo planteo yo.

En las automatizaciones que construyo, el modelo nunca responde de memoria. Lee los documentos que la dirección ha aprobado, cita de dónde saca cada dato y, si no lo encuentra, lo dice y avisa a una persona. Las cincuenta preguntas de oro se escriben antes de la primera línea de código y se vuelven a pasar cada vez que cambia algo. No es desconfianza hacia la herramienta. Es saber qué es.

Una prueba para hoy, con cualquier asistente que use su empresa. Hágale una pregunta cuya respuesta conozca muy bien, sobre su sector, su ciudad o su propio negocio, y pídale que cite de dónde saca cada dato. Después hágale la misma pregunta otra vez, en una conversación nueva.

Compare las dos respuestas. Si coinciden, pregúntese si coinciden porque son ciertas o porque son probables. Si no coinciden, pregúntese cuántas veces su equipo ha copiado la primera sin pedir nunca la segunda.

Siguiente nota: IA, automatización y software son tres cosas distintas que se venden juntas. Cómo distinguirlas en una reunión de treinta minutos, y por qué la palabra «agente» se ha convertido en la más gastada del catálogo.