Por qué la IA alucina

¿Qué cuenta como una alucinación de la IA?

Una alucinación es una salida presentada como hecho que es falsa o no está respaldada. La palabra cubre dos fallos distintos, y separarlos importa. El primero es la fabricación: el modelo afirma algo sobre el mundo que simplemente no es cierto, una fecha equivocada, una estadística inventada, un libro que no existe. El segundo es un fallo de fidelidad: le diste un documento o un resultado de búsqueda, y su resumen dice algo que la fuente no dice. El primero es un hueco en lo que el modelo absorbió del entrenamiento. El segundo es una mala lectura de un texto que tiene enfrente.

La subespecie más reconocible es la cita inventada: un caso judicial, un paper o una URL con formato perfecto y existencia nula. Las citas se fabrican con tanta facilidad porque su forma es extremadamente predecible, autor, año, título plausible, mientras que la referencia verdadera concreta no lo es. El modelo siempre puede producir la forma. No siempre puede producir el hecho.

Vale la pena nombrar una forma más: el error servil. Contradice una respuesta correcta y el modelo puede ceder y darte la razón en tu versión equivocada, porque las continuaciones complacientes fueron premiadas durante el entrenamiento. El error parece cortesía, pero es el mismo problema de fondo: el texto que puntúa como más probable no siempre es el texto verdadero.

¿Por qué pasa? La mecánica

Un modelo de lenguaje responde prediciendo el siguiente token, uno tras otro, dado todo lo anterior. No hay consulta a una base de datos, ni lista de hechos verificados, ni un paso donde la frase se compare con la realidad. Los hechos que el modelo vio muchas veces en el entrenamiento quedan codificados con fuerza y salen de forma fiable. Los que vio una vez, o nunca, viven en la misma maquinaria estadística que todo lo demás, y cuando el prompt exige una respuesta, la maquinaria produce la continuación más plausible que puede. Lo plausible y lo verdadero coinciden la mayoría de las veces. La alucinación vive en el hueco.

Los incentivos del entrenamiento lo empeoran. Un paper de investigación de OpenAI de 2025 argumentó que los modelos alucinan en parte por cómo se los entrena y evalúa: la mayoría de los benchmarks califica las respuestas como correctas o incorrectas, sin crédito por decir 'no lo sé'. Con esa puntuación, un modelo que adivina le gana a uno que se abstiene, igual que un estudiante que nunca deja una pregunta en blanco supera a uno que sí. Los modelos quedan, en la práctica, optimizados para ser examinados seguros de sí mismos.

Por eso las alucinaciones salen fluidas. Toda la habilidad del modelo es producir texto probable, y la prosa firme y bien estructurada es la forma probable de una respuesta. La seguridad del texto es una propiedad de la escritura, no evidencia sobre el mundo. La lección interactiva de este sitio te deja ver a un modelo seguir generando con total suavidad más allá del borde de lo que sabe, que es el fenómeno entero en una imagen.

Casos reales: cuando la alucinación tocó el mundo

En 2023, dos abogados de Nueva York presentaron un escrito legal redactado con ayuda de ChatGPT. Citaba seis casos judiciales que no existían, con citas y números de expediente convincentes. La contraparte no podía encontrar los casos porque no había nada que encontrar, y un juez federal multó a los abogados. Desde entonces, tribunales de varios países han sancionado o amonestado a abogados por citas fabricadas por IA, al punto de que muchos ya exigen declarar si hubo asistencia de IA.

En 2024, un tribunal canadiense ordenó a Air Canada honrar un descuento por duelo que el chatbot de su web había inventado. La aerolínea argumentó que el bot era responsable de sus propias palabras. El tribunal no estuvo de acuerdo: la empresa publicó la respuesta, la empresa es dueña de la respuesta. El caso se volvió la advertencia estándar para cualquiera que despliegue un bot de atención sin anclarlo en documentos de política reales.

El patrón de ambas historias es el mismo y es la lección práctica: el texto fue lo bastante fluido para pasar el vistazo de un profesional. Las alucinaciones rara vez parecen errores. Se ven como todo lo demás que escribe el modelo, y por eso la defensa tiene que ser proceso, verificar fuentes, anclar respuestas, y no intuición.

¿Cada cuánto alucinan los modelos?

No hay una tasa única, porque la tasa depende de la tarea. Si le pides resumir un documento que está en el prompt, los modelos de frontera actuales se equivocan poco: los rankings públicos de fidelidad han puesto las tasas de alucinación en resúmenes de los mejores modelos en pocos puntos porcentuales. Ante preguntas abiertas sobre gente poco conocida, productos de nicho o eventos recientes, el error sube con fuerza, porque la cola larga del mundo es justo lo que los datos de entrenamiento cubren más fino.

La tendencia es real pero parcial. Cada generación de modelos ha reducido la alucinación en los benchmarks medidos, y los modos anclados con búsqueda web y citas la reducen más. Dos advertencias honestas sobreviven al progreso. Primera, las mejoras son disparejas: se ha reportado que algunos modelos enfocados en razonamiento fabrican más que sus predecesores en ciertos tests de memoria factual, aun mejorando en matemáticas y código. Segunda, una tasa más baja en un benchmark no es garantía sobre tu pregunta. El riesgo se concentra exactamente donde menos puedes verificar.

¿Qué reduce de verdad las alucinaciones?

Nada las elimina, pero unas pocas prácticas recortan el riesgo de forma drástica. El hilo común es el anclaje: conecta la respuesta del modelo con texto que existe de verdad, y dale permiso de no saber.

• El retrieval (RAG) ayuda porque cambia la tarea de recordar a leer: el modelo responde desde texto recuperado y puede citarlo. Los fallos pasan a ser de calidad de recuperación, que sí puedes medir y arreglar.
• Bajar la temperature no arregla la alucinación. Hace la salida más repetible, pero la continuación más probable puede estar confiadamente equivocada a cualquier temperature.
• Preguntar lo mismo dos veces y comparar es una verificación barata: las fabricaciones tienden a variar entre corridas, los hechos memorizados tienden a quedarse quietos.

¿Se puede arreglar del todo la alucinación?

No en el paradigma actual, y el encuadre honesto es gestión, no cura. Un predictor del siguiente token no tiene una línea interna entre patrón y hecho, así que cierta tasa de error seguro de sí mismo es estructural. Lo que sí puede cambiar, y ha ido cambiando, es todo lo de alrededor: entrenamiento que premia la incertidumbre calibrada en vez de la adivinanza, evaluaciones que dejan de castigar el 'no lo sé', productos que anclan las respuestas en fuentes recuperadas por defecto, y uso de herramientas que reemplaza la predicción por la consulta donde la consulta es mejor.

Para ti, la conclusión práctica es un hábito de calibración, no miedo. Trata al modelo como a un colega brillante, rápido y a veces equivocado: buenísimo para borradores, explicaciones, lluvia de ideas y transformar texto que tú le das, y nunca la autoridad final sobre un hecho que no verificaste. Cuando una respuesta importa, la pregunta no es '¿suena bien?' sino '¿en qué está anclada?'

Lo que la gente entiende mal

Dónde lo ves en productos reales

Preguntas frecuentes

Explicadores relacionados

Más en Construir encima, y confiar en ello