Explicador en lenguaje claro
Por qué la IA alucina
¿Por qué los modelos de IA inventan cosas con total seguridad?
Porque están construidos para continuar texto de forma plausible, no para reportar hechos. Un modelo de lenguaje siempre produce las siguientes palabras más probables. Cuando la verdad está en sus datos de entrenamiento, lo probable y lo cierto suelen coincidir. Cuando no, el modelo rellena el hueco con algo que suena bien, en prosa perfecta, porque nada en su interior distingue un hecho recordado de un patrón plausible. La alucinación no es un fallo encima del sistema. Es el sistema, corriendo sin anclaje.
No te quedes en leerlo. Opera tú mismo el mecanismo en una lección interactiva corta.
Míralo funcionar: Alucinación →Gratis, sin código, sin registro.
Lo que la gente entiende mal
- La alucinación es un bug que van a parchear. Es inherente a predecir la siguiente palabra. Se puede reducir con anclaje y citas, no eliminar.
- El modelo sabe cuándo está inventando. No hay verificador interno. La fluidez y la seguridad son propiedades del texto, no evidencia de verdad.
- Las respuestas erróneas significan datos de entrenamiento malos. Ni los datos perfectos cubren todo, y el modelo rellena cada hueco por diseño.
Dónde lo ves en productos reales
- Ha habido abogados sancionados por presentar escritos con citas de casos inventadas por un chatbot.
- El bot de soporte de una aerolínea inventó una política de reembolso, y un tribunal obligó a la empresa a cumplirla.
- El aviso de 'verifica la información importante' bajo los chats existe exactamente por esto.
Explicadores relacionados
Parte de See How AI Works, un curso interactivo gratuito, donde aprendes cómo funciona la IA moderna operándola, no viendo videos.