Explicador en lenguaje claro
La temperatura, explicada
La temperature es un ajuste de muestreo que remodela las probabilidades del siguiente token antes de elegir uno. Con temperature baja la distribución se afila y la opción principal gana casi siempre: respuestas consistentes. Con temperature alta se aplana y los tokens menos probables tienen oportunidades reales: más variedad y más errores. Nunca cambia lo que el modelo sabe.
¿Qué hace de verdad el ajuste de temperatura en un modelo de IA?
La temperatura remodela las probabilidades de la siguiente palabra antes de que el modelo elija una. Con temperatura baja se afilan: la opción principal gana casi siempre y las respuestas salen consistentes. Con temperatura alta se aplanan: la segunda y la tercera opción tienen oportunidades reales, lo que se lee como variedad o creatividad, y a veces como disparate. No cambia nada de lo que el modelo sabe. Solo cambia cuánto riesgo toma al elegir entre palabras que ya considera plausibles.
Revisado por última vez el
Leer es el camino lento. Empieza con una lección gratis que puedes operar ahora mismo.
Empieza gratis: Predice la siguiente palabra →Gratis, sin código, sin registro.
Diez segundos, sin lección: juega con el widget independiente, e insértalo en tu propia página.
Y después ve más a fondo: Ajustar la creatividad del modelo Bloqueada
Lo que la gente entiende mal
- La temperatura vuelve al modelo más creativo, como un estado de ánimo. Es aritmética sobre probabilidades, nada más.
- Temperatura 0 significa que la respuesta es correcta. Significa que es consistente. Una opción principal equivocada sigue equivocada a cualquier temperatura.
- La temperatura alta desbloquea conocimiento oculto. El mismo conocimiento, elecciones más arriesgadas entre palabras que el modelo ya tenía en mente.
Dónde lo ves en productos reales
- Los playgrounds de las APIs muestran el control directamente, normalmente de 0 a 2.
- Los modos preciso y creativo de las herramientas de escritura son en gran parte este ajuste.
- El botón de regenerar da otra respuesta porque el muestreo vuelve a tirar los dados.
Preguntas frecuentes
- ¿Qué temperature conviene usar?
- Cerca de cero para todo lo que tiene una respuesta correcta: extracción, clasificación, código, salida estructurada. Entre 0,7 y 1,0 para lluvia de ideas y borradores, donde la variedad ayuda. Si dudas, empieza bajo, porque siempre puedes volver a pedir más opciones.
- ¿La temperature en cero garantiza la misma respuesta siempre?
- La hace muy probable, no garantizada. Los proveedores agrupan peticiones y la aritmética puede variar un poco entre corridas, así que las respuestas todavía pueden cambiar. Tómalo como una tendencia fuerte, no como un contrato.
- ¿Qué diferencia hay entre temperature y top-p?
- La temperature reforma toda la distribución. El top-p primero descarta la cola larga, se queda solo con las opciones más probables que suman p, y muestrea de lo que queda. Se suelen usar juntos, y cambiar los dos a la vez vuelve difícil razonar sobre los resultados.
- ¿Por qué recibo respuestas distintas al mismo prompt?
- Porque el último paso es un sorteo aleatorio sobre las probabilidades del siguiente token, y con cualquier temperature mayor que cero el sorteo puede caer en un token distinto cada vez. Poner la temperature en cero hace que el token principal gane siempre, lo que vuelve las respuestas repetibles pero no más correctas.
- ¿La temperature es la misma en todos los proveedores?
- La fórmula es la misma, dividir las puntuaciones por la temperature antes del softmax, pero el rango útil cambia según el modelo y los valores por defecto cambian según el producto. La mayoría de las APIs aceptan de 0 a 2 y arrancan cerca de 1 o de 0.7. Trátalo como un dial para ajustar por tarea, no como una constante universal.
Explicadores relacionados
Más en Velocidad, costo y control
- ¿Qué es el routing de modelos, y cómo eliges qué modelo de IA usar?
- ¿Qué es la KV cache y por qué importa para la velocidad y el costo?
- ¿Qué es la cuantización y cómo permite correr modelos grandes en hardware pequeño?
- ¿Por qué las GPUs, y no las CPUs, son el hardware del boom de la IA?
- ¿Cómo funcionan de verdad los modelos de razonamiento?
- ¿Qué es el speculative decoding y por qué acelera a los modelos?
- ¿Qué es el prompt caching y cuánto ahorra de verdad?
- ¿Por qué operar IA es tan caro y qué estás pagando?
Una idea a la vez, en tu correo
Lecciones y explicadores nuevos, escritos como están escritas estas páginas. De vez en cuando, no a diario, y nunca una secuencia de venta.
Primero te enviamos un enlace de confirmación. Puedes darte de baja con un clic, cuando quieras. Privacidad.
Parte de See How AI Works, un curso interactivo gratuito, donde aprendes cómo funciona la IA moderna operándola, no viendo videos.