El borde del mapa: lo que los LLM no pueden hacer
Ahora sabes cómo funciona toda la máquina. Entonces, ¿dónde choca contra un muro, y por qué, directamente desde el mecanismo?
La idea que hay dentro
Todo límite de un LLM se reduce a un hecho: predice tokens plausibles, no la verdad.
Después de esta lección
Puedes nombrar los límites fundamentales de los LLM y vincular cada uno con el mecanismo que lo causa.
Adónde lleva
Queda una puerta: demuestra que puedes tomar la decisión de lanzar. Después, el hardware que hay debajo de todo.
Dentro de esta lección
Ese es el escenario real de la lección, en pausa. Reclama tu pase para operarlo.
Mira cómo funciona la IA de verdad, de principio a fin.
Esta lección es solo una parada del arco completo. Desbloquéalo todo y consérvalo de por vida.
Lo que obtienes
- El camino principal de 34 lecciones, una ruta que sí se termina, de una palabra a los agentes
- Rutas por objetivo para usar IA en el trabajo y construir funciones con IA
- Labs de jefe que te hacen aplicar un acto entero, no solo reconocerlo
- Repaso espaciado que trae cada idea de vuelta antes de que la olvides
- Memoria del curso: cada término definido, con enlaces a donde aparece por primera vez
- Una tarjeta de capacidades para compartir cuando termines el camino principal
- Acceso de por vida en cualquier dispositivo, con todas las lecciones futuras incluidas
No son videos para mirar. Predices, operas la máquina y luego lo demuestras. Por eso se queda.
99 lecciones y retos interactivos. Sin videos, sin código.
Pase de lanzamiento gratis: acceso de por vida, sin tarjeta
¿Nuevo por aquí? Las primeras lecciones son gratis para probar. Empieza con la lección 0.1
Qué muestra esta lección
Todo límite de un LLM se reduce a un hecho: predice tokens plausibles, no la verdad.
La pregunta con la que abre
Ahora sabes cómo funciona toda la máquina. Entonces, ¿dónde choca contra un muro, y por qué, directamente desde el mecanismo?
El recorrido, en palabras de la propia lección
- Ahora cambia a factores más grandes o más pequeños: el desvío crece con los números.
- El modelo acaba de responder esta multiplicación. Toca su respuesta para comprobarla.
- Dile tu nombre y vuelve mañana. ¿Se acuerda?
- Toca cada muro para ver el mecanismo que lo causa y su solución.
- Ahora puedes predecir el fallo antes de que ocurra.
- No calculó el producto: emparejó patrones de dígitos que parecen correctos y afirmó el error con total seguridad.
- Empareja patrones de dígitos que parecen correctos en vez de hacer la multiplicación, así que cae cerca pero mal, y lo dice con total confianza. Un dato que ha visto mil veces lo puede repetir; un producto exacto lo tiene que calcular, y no puede, así que se lo inventa.
- Chat nuevo mañana: «¿Cómo me llamo?» ¿Qué responde?
- Exacto: nada persiste entre chats; uno nuevo empieza en blanco.
- Casi: dentro de un mismo chat se acuerda; entre chats no.
- Tu nombre solo «quedó» mientras estuvo dentro de la ventana de contexto (5.3); en cuanto eso se desplaza, el modelo vuelve a estar en blanco. La ilusión de memoria es solo la transcripción reenviada en cada turno: por eso dentro de un mismo chat puede repetir tu nombre, pero una conversación nueva empieza sin nada.
- Si tu ChatGPT sí recuerda tu nombre en un chat nuevo, eso es una función de memoria que guarda notas fuera del modelo y se las vuelve a pasar cada vez; el modelo en sí sigue empezando en blanco.
- Ninguno de estos es ya un misterio: cada uno tiene solución.
- Cada límite es la otra cara de cómo funciona la máquina, y cada uno tiene solución: herramientas, recuperación, verificación o una persona. Esa es la recompensa de entender el mecanismo: dejas de sorprenderte por los fallos y empiezas a diseñar para esquivarlos.
- Un compañero quiere lanzar una función donde el modelo suma una factura y declara las cifras como un hecho, sin ninguna verificación. ¿Qué límites lo hacen arriesgado, y qué harías en su lugar?
- Esto choca con dos muros: la aritmética exacta poco fiable (empareja patrones de dígitos en vez de calcular) y la falta de verdad garantizada (un número fluido puede estar mal con total seguridad). Manda los cálculos a una calculadora o herramienta real, y verifica cualquier cifra que sostenga la decisión antes de darla por válida. La gracia de conocer el mecanismo es predecir el fallo y diseñar para esquivarlo.
La idea clave
Puedes predecir dónde fallará un LLM antes de que ocurra, y echar mano del remedio adecuado (herramientas, recuperación, verificación, una persona).
Qué puedes hacer después de esta lección
Puedes nombrar los límites fundamentales de los LLM y vincular cada uno con el mecanismo que lo causa.
Ponte a prueba: ¿Qué único hecho explica la mayoría de los límites de un LLM (alucinación, mala aritmética, datos desactualizados)?
- Predice tokens plausibles como siguientes, no la verdad verificada(correcta)
- Tiene muy poca memoria
- Fue entrenado con datos malos
- Corre en hardware lento
Por dentro siempre está produciendo texto probable, no comprobando la verdad. Ese único mecanismo es por qué puede ser fluido y estar equivocado, contar mal, o afirmar cosas desactualizadas con seguridad.
¿Prefieres leer primero? Esta lección tiene un explicador de compañía: Límites de los LLM
Adónde lleva: Queda una puerta: demuestra que puedes tomar la decisión de lanzar. Después, el hardware que hay debajo de todo.
Este es el resumen escrito. La lección en sí es interactiva: arriba predices, arrastras y operas el mecanismo, y la revelación te responde.