Una feature de LLM en producción
Un prompt que funciona en el playground se cae en producción. ¿Qué falta?
La idea que hay dentro
En producción el modelo es solo un paso de un pipeline de barreras de seguridad, ensamblado y análisis.
Después de esta lección
Puedes describir la anatomía de una feature de LLM en producción y por qué el modelo es solo un componente.
Adónde lleva
Si es un pipeline que puede fallar, más vale poder ver dentro de él.
Dentro de esta lección
Ese es el escenario real de la lección, en pausa. Reclama tu pase para operarlo.
Mira cómo funciona la IA de verdad, de principio a fin.
Esta lección es solo una parada del arco completo. Desbloquéalo todo y consérvalo de por vida.
Lo que obtienes
- El camino principal de 34 lecciones, una ruta que sí se termina, de una palabra a los agentes
- Rutas por objetivo para usar IA en el trabajo y construir funciones con IA
- Labs de jefe que te hacen aplicar un acto entero, no solo reconocerlo
- Repaso espaciado que trae cada idea de vuelta antes de que la olvides
- Memoria del curso: cada término definido, con enlaces a donde aparece por primera vez
- Una tarjeta de capacidades para compartir cuando termines el camino principal
- Acceso de por vida en cualquier dispositivo, con todas las lecciones futuras incluidas
No son videos para mirar. Predices, operas la máquina y luego lo demuestras. Por eso se queda.
99 lecciones y retos interactivos. Sin videos, sin código.
Pase de lanzamiento gratis: acceso de por vida, sin tarjeta
¿Nuevo por aquí? Las primeras lecciones son gratis para probar. Empieza con la lección 0.1
Qué muestra esta lección
En producción el modelo es solo un paso de un pipeline de barreras de seguridad, ensamblado y análisis.
La pregunta con la que abre
Un prompt que funciona en el playground se cae en producción. ¿Qué falta?
El recorrido, en palabras de la propia lección
- El mismo modelo que en el playground. Toca para revelar qué envuelve producción a su alrededor.
- Un ticket, una petición: míralo fluir por todo el pipeline.
- Ahora rompe una etapa. Mira dónde se atrapa el fallo.
- El modelo es un componente. Producción es el andamiaje a su alrededor.
- Sigue tocando las puertas grises: cada una es un trabajo distinto que producción hace alrededor del modelo.
- Toca cada puerta gris para revelar el trabajo que hace alrededor del modelo.
- El modelo casi no cambia entre el playground y producción. Lo que falta es todo lo que lo rodea: guardrails, ensamblaje, validación. Recorramos el pipeline.
- Cinco puertas alrededor de un modelo. El modelo está en el medio: un solo componente, no el sistema entero.
- Elige un fallo para inyectar. Mira qué puerta lo detiene, y qué cuesta.
- El mayor riesgo nuevo: prompt injection, las instrucciones y los datos viajan por el mismo canal, así que un comando oculto en un ticket puede secuestrar el modelo. Lo atrapaste en la puerta de entrada.
- Alrededor del modelo, cuatro cosas hacen que un prompt sea lanzable. Cada puerta puede fallar, así que cada una atrapa, bloquea o reintenta:
- Volveremos a lo peligroso que se pone el prompt injection, y a cómo blindar la forma JSON, en lecciones posteriores.
- Un chatbot funciona impecable en la demo, pero la versión lanzada empieza a filtrar los datos de otro cliente en sus respuestas. ¿Qué parte del pipeline falló?
- El guardrail de salida, el chequeo final que revisa lo que sale en busca de datos personales filtrados, faltaba o era demasiado débil. El modelo es una caja; lanzarlo de forma segura significa envolverlo con guardrails de entrada, validación y guardrails de salida, porque una demo limpia solo ejercita el modelo, no el andamiaje que atrapa los fallos.
La idea clave
Publicar una feature de LLM es sobre todo el andamiaje alrededor del modelo, no el modelo en sí.
Qué puedes hacer después de esta lección
Puedes describir la anatomía de una feature de LLM en producción y por qué el modelo es solo un componente.
Ponte a prueba: En una feature de LLM en producción, el modelo es…
- Un componente en un pipeline de guardrails, prompts y validación(correcta)
- El sistema entero por sí solo
- Solo se necesita durante el entrenamiento
- Siempre reemplazado por RAG
Lanzar una función con LLM implica guardarraíles, prompts, recuperación y validación alrededor del modelo. El modelo es una parte, no todo el sistema.
Adónde lleva: Si es un pipeline que puede fallar, más vale poder ver dentro de él.
Este es el resumen escrito. La lección en sí es interactiva: arriba predices, arrastras y operas el mecanismo, y la revelación te responde.