Context rot: cuando más contexto empeora las cosas
El modelo lee todo lo que le das, así que pega todos tus documentos y deja que él los ordene, ¿no?
La idea que hay dentro
Pasado cierto punto, el contexto extra es contraproducente: el dato clave queda enterrado y las respuestas empeoran.
Después de esta lección
Puedes explicar el context rot: por qué más contexto puede bajar la calidad de la respuesta, y los hábitos (curar, comprimir, recuperar, citar, verificar) que superan a volcarlo todo.
Adónde lleva
Decidir qué debe ver el modelo es trabajo de verdad, a continuación, las herramientas y los bucles que lo gestionan por ti.
Dentro de esta lección
Ese es el escenario real de la lección, en pausa. Reclama tu pase para operarlo.
Mira cómo funciona la IA de verdad, de principio a fin.
Esta lección es solo una parada del arco completo. Desbloquéalo todo y consérvalo de por vida.
Lo que obtienes
- El camino principal de 34 lecciones, una ruta que sí se termina, de una palabra a los agentes
- Rutas por objetivo para usar IA en el trabajo y construir funciones con IA
- Labs de jefe que te hacen aplicar un acto entero, no solo reconocerlo
- Repaso espaciado que trae cada idea de vuelta antes de que la olvides
- Memoria del curso: cada término definido, con enlaces a donde aparece por primera vez
- Una tarjeta de capacidades para compartir cuando termines el camino principal
- Acceso de por vida en cualquier dispositivo, con todas las lecciones futuras incluidas
No son videos para mirar. Predices, operas la máquina y luego lo demuestras. Por eso se queda.
99 lecciones y retos interactivos. Sin videos, sin código.
Pase de lanzamiento gratis: acceso de por vida, sin tarjeta
¿Nuevo por aquí? Las primeras lecciones son gratis para probar. Empieza con la lección 0.1
Qué muestra esta lección
Pasado cierto punto, el contexto extra es contraproducente: el dato clave queda enterrado y las respuestas empeoran.
La pregunta con la que abre
El modelo lee todo lo que le das, así que pega todos tus documentos y deja que él los ordene, ¿no?
El recorrido, en palabras de la propia lección
- ¿Lo ves? Enterrar la aguja arrastra la precisión hacia abajo.
- Una aguja, sin relleno. Arrastra el control un poco y observa el medidor de precisión.
- Sigue rellenando. Observa cómo la precisión cae a medida que se entierra la aguja.
- Arrastra el control para rellenar el prompt con texto irrelevante.
- La señal le gana al volumen. Dale los pocos fragmentos correctos, no todo.
- El medidor muestra un efecto real y documentado, no cifras medidas.
- Pasado cierto punto, el texto extra entierra el dato clave (una aguja en un pajar), reparte la atención (lección 3.3) más fina entre más palabras y consume más del presupuesto fijo (lecciones 4.2 / 6.2). La precisión tiende a caer, y cuesta más y va más lento.
- Mismo modelo, misma aguja, misma pregunta, solo cambió la pila de texto irrelevante. La respuesta se volvió más difícil de encontrar mientras el tiempo y el costo subieron.
- El modelo lo lee todo, así que más context siempre es mejor. Solo pega todos tus documentos y deja que él lo ordene.
- Pasado un punto, el texto de más entierra el dato clave y reparte la atención más fina, así que la precisión cae mientras el costo y la latencia suben. Unos pocos chunks relevantes le ganan a un montón enorme.
- Pegas un manual entero de 50 páginas en un chatbot y haces una pregunta puntual, pero la respuesta es peor que cuando pegaste solo la página relevante. ¿Por qué?
- Context rot: pasado cierto punto, más texto entierra el dato clave y reparte la atención más fina, así que la precisión baja mientras el costo y la latencia suben. Dale los pocos fragmentos que importan, no todo lo que tengas.
- El dato clave está enterrado entre muchas líneas de texto de relleno irrelevante.
La idea clave
Viste caer la precisión al rellenar el prompt con paja, la señal le gana al volumen.
Qué puedes hacer después de esta lección
Puedes explicar el context rot: por qué más contexto puede bajar la calidad de la respuesta, y los hábitos (curar, comprimir, recuperar, citar, verificar) que superan a volcarlo todo.
Ponte a prueba: Pegas más y más en el prompt y las respuestas empeoran, no mejoran. ¿Por qué?
- Pasado un punto, el dato clave se entierra en una ventana enorme y la precisión cae (context rot)(correcta)
- El modelo se queda sin espacio en disco
- Más context siempre ayuda, así que debe fallar otra cosa
- La temperature subió sola
Una ventana más grande no es gratis. A medida que se llena, el modelo lee por encima y el dato clave se pierde en el medio. Recortar a lo que importa suele ganarle a pegarlo todo.
Adónde lleva: Decidir qué debe ver el modelo es trabajo de verdad, a continuación, las herramientas y los bucles que lo gestionan por ti.
Este es el resumen escrito. La lección en sí es interactiva: arriba predices, arrastras y operas el mecanismo, y la revelación te responde.