Explicador en lenguaje claro
Lo que los LLM no pueden hacer
¿Cuáles son los límites reales de los modelos de lenguaje?
La lista honesta: no pueden saber con fiabilidad lo que no saben, así que la seguridad y el acierto se separan. No tienen memoria más allá de la ventana de contexto salvo que un producto se la añada. La aritmética exacta y el conteo fallan sin una calculadora como herramienta. No pueden verificar hechos contra el mundo, solo contra patrones del texto de entrenamiento. Y no pueden actuar, navegar ni ejecutar código por sí solos; todo 'agent' es un arnés de herramientas y permisos alrededor del mismo predictor.
No te quedes en leerlo. Opera tú mismo el mecanismo en una lección interactiva corta.
Míralo funcionar: El borde del mapa: lo que los LLM no pueden hacer →Gratis, sin código, sin registro.
Lo que la gente entiende mal
- Los límites significan que fallan en todo. Con herramientas, recuperación y verificaciones, son confiables dentro de carriles bien definidos.
- La escala borrará todo esto. Algunos límites, como el autoconocimiento calibrado y el anclaje, son estructurales a la predicción y han sobrevivido a cada salto de escala hasta ahora.
- Una respuesta errónea demuestra que la tecnología es falsa. Mismo sistema, distinto ajuste de tarea. Saber qué tareas encajan es la verdadera habilidad.
Dónde lo ves en productos reales
- Los chatbots traen calculadoras e intérpretes de código porque la aritmética cruda es un punto débil conocido.
- Los productos de agents piden permiso antes de actuar: el arnés, no el modelo, es la capa de seguridad.
- El aviso de 'la IA puede cometer errores' bajo cada chat es esta página, en una línea.
Explicadores relacionados
Parte de See How AI Works, un curso interactivo gratuito, donde aprendes cómo funciona la IA moderna operándola, no viendo videos.