Si solo predice un token, ¿cómo escribe un texto entero?

Repite el mismo paso una y otra vez. Cada token que produce se añade al texto y vuelve a entrar, así que la siguiente predicción depende de todo, incluido lo que acaba de escribir. La estructura aparece porque las continuaciones coherentes son las probables.

¿El modelo planifica la frase antes de escribirla?

No hay una etapa de planificación aparte en la arquitectura. Los trabajos de interpretabilidad sí encuentran estado interno que se anticipa varios tokens, y los modelos de razonamiento reciben un borrador explícito donde pensar, pero el bucle de salida sigue siendo token a token.

¿Por qué el mismo prompt da respuestas distintas?

Porque el paso final muestrea de una distribución en vez de tomar siempre el token más alto. Con temperature en cero casi todos los modelos se vuelven casi repetibles, aunque los proveedores no lo garantizan: el batching y el hardware pueden cambiar un poco la aritmética.

Explicador en lenguaje claro

La predicción de la siguiente palabra, explicada

¿ChatGPT de verdad solo predice la siguiente palabra?

Sí, y no es poca cosa. Todo el modelo se entrena con un solo objetivo: dado un texto, adivinar el siguiente token. Hazlo casi perfecto sobre billones de tokens y la adivinanza tiene que absorber gramática, hechos, estilo, patrones de código y cadenas con forma de razonamiento, porque todo eso mejora la predicción. El chat es el mismo truco apuntado a una transcripción: el modelo predice qué diría a continuación un asistente útil, token a token.

Revisado por última vez el 25 de julio de 2026

No te quedes en leerlo. Opera tú mismo el mecanismo en una lección interactiva corta.

Míralo funcionar: Predice la siguiente palabra →

Gratis, sin código, sin registro.

Lo que la gente entiende mal

Planea toda la respuesta antes de escribir. Se compromete token a token; cada elección condiciona la siguiente.
Predecir es memorizar. El modelo sobre todo generaliza patrones; reproducir pasajes largos al pie de la letra es la excepción, no el mecanismo.
'Solo es autocompletado' significa que no puede ser capaz. El techo del truco sube con la escala, que es justo lo que demostraron los últimos años.

Dónde lo ves en productos reales

El texto que aparece palabra a palabra en los chats es el bucle, en vivo.
Las sugerencias del teclado de tu teléfono son un primo diminuto de la misma idea.
Las APIs cobran la salida por token porque los tokens son lo que el modelo produce, uno a la vez.

Preguntas frecuentes

Si solo predice un token, ¿cómo escribe un texto entero?: Repite el mismo paso una y otra vez. Cada token que produce se añade al texto y vuelve a entrar, así que la siguiente predicción depende de todo, incluido lo que acaba de escribir. La estructura aparece porque las continuaciones coherentes son las probables.
¿El modelo planifica la frase antes de escribirla?: No hay una etapa de planificación aparte en la arquitectura. Los trabajos de interpretabilidad sí encuentran estado interno que se anticipa varios tokens, y los modelos de razonamiento reciben un borrador explícito donde pensar, pero el bucle de salida sigue siendo token a token.
¿Por qué el mismo prompt da respuestas distintas?: Porque el paso final muestrea de una distribución en vez de tomar siempre el token más alto. Con temperature en cero casi todos los modelos se vuelven casi repetibles, aunque los proveedores no lo garantizan: el batching y el hardware pueden cambiar un poco la aritmética.

Explicadores relacionados

Cómo funcionan los LLM Transformers Temperature Softmax Modelos de razonamiento Speculative decoding

Más en Fundamentos

Una idea a la vez, en tu correo

Lecciones y explicadores nuevos, escritos como están escritas estas páginas. De vez en cuando, no a diario, y nunca una secuencia de venta.

Primero te enviamos un enlace de confirmación. Puedes darte de baja con un clic, cuando quieras. Privacidad.

Parte de See How AI Works, un curso interactivo gratuito, donde aprendes cómo funciona la IA moderna operándola, no viendo videos.