Explicador en lenguaje claro
El transformer, explicado
¿Qué es un transformer y cómo funciona de verdad la arquitectura?
Un transformer es una pila de bloques idénticos, y cada uno hace dos cosas. Primero, attention: cada token mira a los tokens anteriores y trae lo que necesita, así el significado fluye entre palabras. Segundo, una red feed-forward transforma cada token por su cuenta, y ahí vive la mayor parte del conocimiento aprendido. Una representación de cada token atraviesa la pila, refinada un poco por bloque, hasta que arriba está lo bastante afilada para puntuar cada posible siguiente token.
No te quedes en leerlo. Opera tú mismo el mecanismo en una lección interactiva corta.
Míralo funcionar: El bloque transformer, ensamblado y apilado →Gratis, sin código, sin registro.
Lo que la gente entiende mal
- Un transformer es una gran red enredada. Es el mismo bloque pequeño de dos partes, repetido decenas de veces en una pila.
- Attention es toda la historia. Attention enruta la información, pero la mayoría de los parámetros están en las capas feed-forward que la transforman.
- La comprensión pasa en una sola lectura. Cada bloque vuelve a mezclar los tokens, así que la representación se afila capa a capa.
Dónde lo ves en productos reales
- La T de GPT significa transformer.
- Casi todos los modelos modernos de IA, chat, código, imagen y audio incluidos, se construyen sobre esta arquitectura.
- Las fichas de los modelos listan capas y tamaños: esos números describen exactamente esta pila.
Explicadores relacionados
Parte de See How AI Works, un curso interactivo gratuito, donde aprendes cómo funciona la IA moderna operándola, no viendo videos.