¿Cómo piensa una IA?
Lo único que hace es predecir la siguiente palabra, a partir de una lista ordenada de candidatas.
El gato bebe ___
Nadie programó esas predicciones. ¿De dónde salieron, y cómo responde sobre HOY?
0.2 Del internet a tu respuestaPreguntas frecuentes
¿De qué trata "¿Cómo piensa una IA?"?
¿Qué pregunta responde esta lección?
¿Qué sabré hacer después de esta lección?
¿Qué viene después?
Qué muestra esta lección
Lo único que hace es predecir la siguiente palabra, a partir de una lista ordenada de candidatas.
La pregunta con la que abre
Una IA completa tu frase como por arte de magia. ¿Qué está haciendo en realidad?
El recorrido, en palabras de la propia lección
- Un solo movimiento, en bucle. Eso es un modelo de lenguaje.
- Ahora míralo repetir ese único movimiento una y otra vez para escribir una frase entera.
- Un chatbot escribe una respuesta larga y fluida palabra por palabra, y puedes verla aparecer en vivo. ¿Qué hace en realidad por dentro?
- El mismo movimiento en bucle: puntúa cada palabra que podría seguir, toma la de arriba, la añade y vuelve a preguntar. La fluidez es ese único paso de predecir y añadir repetido, no un plan escrito de antemano.
- Un matiz: "pensar" es una metáfora. Aquí no hay una voz interior ni conciencia, solo este único paso de predecir-la-siguiente-palabra, en bucle. Todo el curso trata de ese mecanismo, no de una mente.
- Bien: el modelo también puso “leche” en primer lugar. No lo sabía; simplemente juzgó que “leche” era la siguiente palabra más probable.
- La misma máquina, otro contexto: ahora pone otra palabra en primer lugar. No consultó nada; simplemente volvió a puntuar cada palabra para esta frase.
- Buena suposición, ¡y no está mal! El modelo también consideró tu palabra, solo que puntuó la palabra de arriba un poco más alto. No hay una única respuesta correcta, solo un ranking.
- Cambia la frase y predice otra vez: las barras se reordenan en vivo.
- Puntajes ilustrativos: una grabación de cómo ordena un modelo, no un modelo en vivo.
- Esta repetición siempre toma la palabra de arriba; los chatbots reales a menudo muestrean entre las primeras (lección 4.1).
La idea clave
La 'magia' es un solo movimiento repetido: puntuar la siguiente palabra, elegir la mejor, una y otra vez.
Qué puedes hacer después de esta lección
Puedes explicar lo que realmente hace un LLM: predecir la siguiente palabra, una vez tras otra.
Ponte a prueba: En el fondo, ¿qué hace un LLM cuando escribe?
- Predecir el siguiente token, una y otra vez(correcta)
- Buscar respuestas en una base de datos
- Seguir reglas gramaticales escritas a mano
- Copiar frases de los datos de entrenamiento
Solo puntúa el siguiente token probable y elige uno, y lo repite. No hay consulta a una base de datos ni frases guardadas, solo ese único movimiento en bucle.
¿Prefieres leer primero? Esta lección tiene un explicador de compañía: Cómo funcionan los LLM
Adónde lleva: Nadie programó esas predicciones. ¿De dónde salieron, y cómo responde sobre HOY?
Este es el resumen escrito. La lección en sí es interactiva: arriba predices, arrastras y operas el mecanismo, y la revelación te responde.