Explicador en lenguaje claro
Por qué la IA corre en GPUs
¿Por qué las GPUs, y no las CPUs, son el hardware del boom de la IA?
Casi todo lo que hace un modelo de lenguaje es multiplicar cuadrículas enormes de números, y esos millones de pequeñas multiplicaciones no dependen unas de otras. Una CPU tiene unos pocos núcleos rápidos hechos para correr pasos uno tras otro. Una GPU tiene miles de núcleos simples hechos para aplicar la misma operación a lotes gigantes a la vez. Para la matemática de matrices, ganan los miles. Los gráficos necesitaron esa matemática primero, y por eso el chip de videojuegos se volvió el chip de la IA.
No te quedes en leerlo. Opera tú mismo el mecanismo en una lección interactiva corta.
Míralo funcionar: Por qué las GPUs ganan a las CPUs →Gratis, sin código, sin registro.
Lo que la gente entiende mal
- Las GPUs son simplemente computadoras más rápidas. En trabajo secuencial y con ramificaciones gana la CPU. La GPU solo gana cuando el trabajo es masivamente paralelo.
- La IA necesita GPUs por los gráficos. No hay píxeles de por medio. El ingrediente compartido es la multiplicación de matrices.
- Apilar más GPUs siempre acelera en proporción. Los chips deben intercambiar resultados, y esa comunicación se vuelve su propio cuello de botella.
Dónde lo ves en productos reales
- La escasez de GPUs y la subida de Nvidia son demanda de esta matemática paralela.
- Las nubes cobran el cómputo de IA como instancias de GPU por hora.
- Una tarjeta de videojuegos puede correr un modelo local cuantizado: mismo hardware, trabajo nuevo.
Explicadores relacionados
Parte de See How AI Works, un curso interactivo gratuito, donde aprendes cómo funciona la IA moderna operándola, no viendo videos.