La tríada letal
Tu agente servicial lee una página web, y en silencio envía tus datos privados por email a un desconocido. ¿Cómo?
La idea que hay dentro
El peligro se dispara cuando un agente tiene las tres cosas: datos privados, contenido no confiable y una vía de salida.
Después de esta lección
Puedes explicar la tríada letal (datos privados + contenido no confiable + comunicación externa) y cómo desactivarla.
Adónde lleva
La seguridad es una preocupación de producción; la confianza con los usuarios es otra.
Dentro de esta lección
Ese es el escenario real de la lección, en pausa. Reclama tu pase para operarlo.
Mira cómo funciona la IA de verdad, de principio a fin.
Esta lección es solo una parada del arco completo. Desbloquéalo todo y consérvalo de por vida.
Lo que obtienes
- El camino principal de 34 lecciones, una ruta que sí se termina, de una palabra a los agentes
- Rutas por objetivo para usar IA en el trabajo y construir funciones con IA
- Labs de jefe que te hacen aplicar un acto entero, no solo reconocerlo
- Repaso espaciado que trae cada idea de vuelta antes de que la olvides
- Memoria del curso: cada término definido, con enlaces a donde aparece por primera vez
- Una tarjeta de capacidades para compartir cuando termines el camino principal
- Acceso de por vida en cualquier dispositivo, con todas las lecciones futuras incluidas
No son videos para mirar. Predices, operas la máquina y luego lo demuestras. Por eso se queda.
99 lecciones y retos interactivos. Sin videos, sin código.
Pase de lanzamiento gratis: acceso de por vida, sin tarjeta
¿Nuevo por aquí? Las primeras lecciones son gratis para probar. Empieza con la lección 0.1
Qué muestra esta lección
El peligro se dispara cuando un agente tiene las tres cosas: datos privados, contenido no confiable y una vía de salida.
La pregunta con la que abre
Tu agente servicial lee una página web, y en silencio envía tus datos privados por email a un desconocido. ¿Cómo?
El recorrido, en palabras de la propia lección
- Tres patas activas, un ataque en marcha. Toca UNA sola pata para apagarla.
- Un agent servicial, tres capacidades. Cada una es útil por sí sola.
- Ahora las tres están activas. Mira cómo la página no confiable toma el control.
- El peligro necesita las tres a la vez. Quita cualquier pata para desactivarlo.
- La página ocultó una instrucción, el agent obedeció y tus datos ya van de salida. Toca una pata para romper la cadena.
- El modelo no distingue con fiabilidad tus instrucciones de las instrucciones ocultas en lo que lee. Cada capacidad por separado está bien; solo las tres a la vez dejan que un atacante lea tus secretos y los envíe afuera.
- La injection en sí no está resuelta: quitar una pata reduce el riesgo, no lo elimina.
- Estás a punto de darle a un agent acceso a tu correo privado para que lea los mensajes que llegan y responda por ti. ¿Por qué esa combinación es peligrosa, y cómo reducirías el riesgo?
- Ese montaje conecta las tres patas de la lethal trifecta: datos privados, contenido entrante no confiable y una vía de salida. Un mensaje podría llevar una instrucción oculta (prompt injection) que haga que el agent filtre tus datos. Rompe una pata: deja que un humano apruebe cualquier respuesta que salga, o no permitas que el mismo agent lea correo no confiable y a la vez envíe. Quitar una pata reduce el riesgo; no lo elimina.
- Exfiltrado = enviado en silencio a alguien que no debería tenerlo.
La idea clave
Puedes detectar la tríada letal y romperla, quita los datos privados, la entrada no confiable o la salida.
Qué puedes hacer después de esta lección
Puedes explicar la tríada letal (datos privados + contenido no confiable + comunicación externa) y cómo desactivarla.
Ponte a prueba: La 'tríada letal' es peligrosa cuando un agente tiene…
- Datos privados + contenido no confiable + una forma de enviar datos afuera(correcta)
- A big context window
- Demasiadas herramientas instaladas
- Un modelo lento
Los tres juntos son el peligro: acceso a datos privados, exposición a contenido no confiable que puede secuestrarlo y un canal para sacar datos. Quita cualquiera de las tres patas y el ataque se cae.
¿Prefieres leer primero? Esta lección tiene un explicador de compañía: Prompt injection
Adónde lleva: La seguridad es una preocupación de producción; la confianza con los usuarios es otra.
Este es el resumen escrito. La lección en sí es interactiva: arriba predices, arrastras y operas el mecanismo, y la revelación te responde.