El modelo está congelado y sin estado
Pídele al modelo las noticias de hoy o tu documento privado: no puede saberlo.
La idea que hay dentro
Los pesos quedan fijos tras el entrenamiento; sin memoria entre llamadas; confabula.
Después de esta lección
Puedes explicar por qué un modelo congelado alucina y tiene una fecha de corte de conocimiento.
Adónde lleva
¿Y si le pasamos los documentos correctos?
Dentro de esta lección
Ese es el escenario real de la lección, en pausa. Reclama tu pase para operarlo.
Mira cómo funciona la IA de verdad, de principio a fin.
Esta lección es solo una parada del arco completo. Desbloquéalo todo y consérvalo de por vida.
Lo que obtienes
- El camino principal de 34 lecciones, una ruta que sí se termina, de una palabra a los agentes
- Rutas por objetivo para usar IA en el trabajo y construir funciones con IA
- Labs de jefe que te hacen aplicar un acto entero, no solo reconocerlo
- Repaso espaciado que trae cada idea de vuelta antes de que la olvides
- Memoria del curso: cada término definido, con enlaces a donde aparece por primera vez
- Una tarjeta de capacidades para compartir cuando termines el camino principal
- Acceso de por vida en cualquier dispositivo, con todas las lecciones futuras incluidas
No son videos para mirar. Predices, operas la máquina y luego lo demuestras. Por eso se queda.
99 lecciones y retos interactivos. Sin videos, sin código.
Pase de lanzamiento gratis: acceso de por vida, sin tarjeta
¿Nuevo por aquí? Las primeras lecciones son gratis para probar. Empieza con la lección 0.1
Qué muestra esta lección
Los pesos quedan fijos tras el entrenamiento; sin memoria entre llamadas; confabula.
La pregunta con la que abre
Pídele al modelo las noticias de hoy o tu documento privado: no puede saberlo.
El recorrido, en palabras de la propia lección
- Dio mal la fecha, con seguridad. Toca la siguiente palabra que creas que puntuó más alto.
- Solo sabe hacer una cosa: predecir la siguiente palabra. Así que la hace.
- Tu turno. Pregúntale lo que sea que no tendría forma de saber.
- No miente a propósito: simplemente siempre termina la frase.
- Los pesos se congelaron en el entrenamiento: sin reloj, sin memoria de ti, con un límite fijo.
- Nada en la puntuación de la siguiente palabra marca la baja confianza como «no lo sé». El modelo calcula los puntajes en vivo a partir de tu pregunta con pesos congelados, y luego afirma su mejor conjetura, aunque todas las opciones sean conjeturas. Todo lo ocurrido tras el entrenamiento queda fuera.
- Sí, y justo esa es la idea. La app pega la fecha de hoy (y muchas veces resultados de búsqueda en vivo) en el contexto del modelo antes de que prediga una sola palabra. El modelo pelado sigue sin poder saberlo; el producto le entrega la respuesta. El resto del Acto 5 va de ese truco.
- El modelo te recuerda y aprende un poco con cada chat.
- Los weights están congelados entre chats. Cualquier «memoria» es el sistema volviendo a meter notas pasadas en el context window; el modelo en sí nunca se actualiza por hablar contigo.
- Un asistente dice que recuerda tu última conversación y que acaba de aprender tu preferencia. ¿Qué está pasando en realidad, si el modelo está congelado?
- Los pesos no cambian entre chats: el modelo está congelado y sin estado. Cualquier memoria es el sistema volviendo a meter notas pasadas en el contexto en cada turno. No aprendió; algo guardó tu preferencia y la volvió a pegar. Por eso la memoria es una función del sistema, no el modelo volviéndose más listo.
- Exacto. Solo predice la siguiente palabra: «no lo sé» es una opción más que casi nunca queda en primer lugar.
- Fíjate en que «no lo sé» queda cerca del fondo. El modelo solo predice la siguiente palabra, y esa opción casi nunca puntúa más alto, así que afirma la conjetura segura en su lugar.
- Casi, pero un rodeo así tampoco es el puntaje más alto. El modelo solo predice la siguiente palabra; la primera palabra segura puntuó más alto, así que eso fue lo que dijo.
- «No lo sé» está en la lista: simplemente puntúa cerca del fondo. El modelo calcula estos puntajes en vivo a partir de tu pregunta, con pesos congelados desde el entrenamiento, pero nada en ese proceso marca la baja confianza como «no lo sé», así que simplemente afirma su mejor conjetura.
La idea clave
Motiva el uso de RAG y de herramientas.
Qué puedes hacer después de esta lección
Puedes explicar por qué un modelo congelado alucina y tiene una fecha de corte de conocimiento.
Ponte a prueba: ¿Por qué un modelo congelado inventa cosas con tanta seguridad?
- Siempre elige una palabra plausible, incluso cuando no lo sabe(correcta)
- Su memoria está corrupta
- Fue entrenado con mentiras
- Se queda sin contexto
Siempre emite una siguiente palabra fluida y plausible, aunque no sepa nada real. La confianza es solo fluidez, no una comprobación de que la respuesta sea cierta.
Adónde lleva: ¿Y si le pasamos los documentos correctos?
Este es el resumen escrito. La lección en sí es interactiva: arriba predices, arrastras y operas el mecanismo, y la revelación te responde.