Gobernanza: qué hace que una IA se pueda desplegar
El modelo funciona en la demo. Pero legal, seguridad y tu cliente más grande preguntan lo mismo: ¿a dónde van nuestros datos, quién revisa los errores y quién es responsable?
La idea que hay dentro
La clase de riesgo de la feature fija los controles: retención de datos, manejo de PII, revisión humana, registros de auditoría y un responsable claro. A mayor riesgo, controles más estrictos, por diseño.
Después de esta lección
Puedes definir los controles de gobernanza que una feature de IA necesita para desplegarse: retención, manejo de PII, revisión humana, registro de auditoría y un responsable del riesgo, escalados a su clase de riesgo.
Adónde lleva
Dentro de esta lección
Ese es el escenario real de la lección, en pausa. Reclama tu pase para operarlo.
Mira cómo funciona la IA de verdad, de principio a fin.
Esta lección es solo una parada del arco completo. Desbloquéalo todo y consérvalo de por vida.
Lo que obtienes
- El camino principal de 34 lecciones, una ruta que sí se termina, de una palabra a los agentes
- Rutas por objetivo para usar IA en el trabajo y construir funciones con IA
- Labs de jefe que te hacen aplicar un acto entero, no solo reconocerlo
- Repaso espaciado que trae cada idea de vuelta antes de que la olvides
- Memoria del curso: cada término definido, con enlaces a donde aparece por primera vez
- Una tarjeta de capacidades para compartir cuando termines el camino principal
- Acceso de por vida en cualquier dispositivo, con todas las lecciones futuras incluidas
No son videos para mirar. Predices, operas la máquina y luego lo demuestras. Por eso se queda.
99 lecciones y retos interactivos. Sin videos, sin código.
Pase de lanzamiento gratis: acceso de por vida, sin tarjeta
¿Nuevo por aquí? Las primeras lecciones son gratis para probar. Empieza con la lección 0.1
Qué muestra esta lección
La clase de riesgo de la feature fija los controles: retención de datos, manejo de PII, revisión humana, registros de auditoría y un responsable claro. A mayor riesgo, controles más estrictos, por diseño.
La pregunta con la que abre
El modelo funciona en la demo. Pero legal, seguridad y tu cliente más grande preguntan lo mismo: ¿a dónde van nuestros datos, quién revisa los errores y quién es responsable?
El recorrido, en palabras de la propia lección
- Configura los controles de esta funcionalidad. Déjala en un estado que una organización regulada sí pueda lanzar.
- Los mismos controles no sirven para toda funcionalidad. Predice cuál necesita la gobernanza más estricta.
- La clase de riesgo de la funcionalidad define los controles. La gobernanza se diseña desde el inicio, no se añade al final.
- Lee los síntomas de un paciente y sugiere con qué urgencia buscar atención.
- Lanzable. Retención corta, PII redactada, un humano revisando cada respuesta marcada, un registro de auditoría completo, un responsable con nombre y un proveedor que no entrena con tus entradas. La clase de riesgo definió cada uno de ellos.
- Aún bloqueada. Para una funcionalidad médica de alto riesgo, cada control flojo es un motivo para que una revisión de seguridad diga que no.
- No guardes datos que no necesitas (30 días o nada), redacta la PII, pon un humano en el circuito en cada salida de alto riesgo, activa el registro de auditoría, nombra a un responsable y elige un proveedor que no entrene con las entradas de tus usuarios. Cada control es una barrera, no una preferencia.
- Esta consola ilustra cómo razona una organización regulada sobre una funcionalidad, no sustituye asesoría legal ni de cumplimiento.
- El asistente de triaje. Es de cara al cliente, en un dominio regulado, y una respuesta errónea puede dañar a alguien. Esa clase de riesgo es lo que obliga a una retención estricta, un humano en el circuito, un registro de auditoría y un responsable con nombre.
- La lluvia de títulos de blog puede ir floja: es interna, de bajo riesgo, y un mal título no cuesta nada. Gastas gobernanza donde está el riesgo, no por igual.
- Una referencia común es el NIST AI Risk Management Framework. Divide el trabajo en cuatro funciones: Govern (definir quién responde y las políticas), Map (entender el contexto y la clase de riesgo de la funcionalidad), Measure (probar y medir cómo se comporta de verdad) y Manage (actuar sobre lo que encuentras, incluido retirarla si hace falta). Fíjate en que empieza clasificando el riesgo y luego dimensiona los controles a ese riesgo.
- El EU AI Act convierte esta misma lógica en ley: clasifica los sistemas de IA en clases de riesgo (prohibidos de plano, alto riesgo, limitado, mínimo) y dimensiona las obligaciones según la clase, exactamente como esta consola. Un asistente de triaje médico es un sistema de alto riesgo de manual bajo esa ley. Sus reglas entran en vigor por fases hasta 2027 y más allá: los deberes para los modelos de propósito general (GPAI, los modelos detrás de los chatbots) llegaron primero, siguen las reglas de transparencia como etiquetar contenido de IA, y las obligaciones más estrictas de alto riesgo se aplazaron a finales de 2027 y 2028. Las fechas siguen moviéndose; la lógica de clases de riesgo es la parte que hay que recordar.
- La gobernanza es una casilla legal que añades después del lanzamiento.
- La clase de riesgo de la funcionalidad define los controles: retención, manejo de PII, revisión humana, audit y responsabilidad, diseñados desde el inicio.
- Tu equipo creó una gran funcionalidad y la revisión de seguridad corporativa de un cliente grande es la última barrera antes del trato. ¿Qué está comprobando esa revisión en realidad?
- Pregunta a dónde van los datos, cuánto se conservan, quién audita las salidas y quién responde cuando se equivoca. Una funcionalidad que no puede responder eso no se compra, por buena que fuera la demo. Por eso la gobernanza es parte de construirla, no papeleo posterior.
- Puedes leer la clase de riesgo de una funcionalidad y configurar los controles que la hacen lanzable en una organización regulada: retención, manejo de PII, revisión humana, audit y responsabilidad, diseñados desde el inicio.
La idea clave
Ajustaste los controles de gobernanza al riesgo de una feature, y viste por qué una feature de alto riesgo sin revisión humana y con retención para siempre no se puede desplegar.
Qué puedes hacer después de esta lección
Puedes definir los controles de gobernanza que una feature de IA necesita para desplegarse: retención, manejo de PII, revisión humana, registro de auditoría y un responsable del riesgo, escalados a su clase de riesgo.
Este es el resumen escrito. La lección en sí es interactiva: arriba predices, arrastras y operas el mecanismo, y la revelación te responde.