Saltar al contenido

Explicador en lenguaje claro

La temperatura, explicada

¿Qué hace de verdad el ajuste de temperatura en un modelo de IA?

La temperatura remodela las probabilidades de la siguiente palabra antes de que el modelo elija una. Con temperatura baja se afilan: la opción principal gana casi siempre y las respuestas salen consistentes. Con temperatura alta se aplanan: la segunda y la tercera opción tienen oportunidades reales, lo que se lee como variedad o creatividad, y a veces como disparate. No cambia nada de lo que el modelo sabe. Solo cambia cuánto riesgo toma al elegir entre palabras que ya considera plausibles.

Revisado por última vez el

Leer es el camino lento. Empieza con una lección gratis que puedes operar ahora mismo.

Empieza gratis: Predice la siguiente palabra

Gratis, sin código, sin registro.

Y después ve más a fondo: Ajustar la creatividad del modelo Bloqueada

Lo que la gente entiende mal

  • La temperatura vuelve al modelo más creativo, como un estado de ánimo. Es aritmética sobre probabilidades, nada más.
  • Temperatura 0 significa que la respuesta es correcta. Significa que es consistente. Una opción principal equivocada sigue equivocada a cualquier temperatura.
  • La temperatura alta desbloquea conocimiento oculto. El mismo conocimiento, elecciones más arriesgadas entre palabras que el modelo ya tenía en mente.

Dónde lo ves en productos reales

  • Los playgrounds de las APIs muestran el control directamente, normalmente de 0 a 2.
  • Los modos preciso y creativo de las herramientas de escritura son en gran parte este ajuste.
  • El botón de regenerar da otra respuesta porque el muestreo vuelve a tirar los dados.

Preguntas frecuentes

¿Qué temperature conviene usar?
Cerca de cero para todo lo que tiene una respuesta correcta: extracción, clasificación, código, salida estructurada. Entre 0,7 y 1,0 para lluvia de ideas y borradores, donde la variedad ayuda. Si dudas, empieza bajo, porque siempre puedes volver a pedir más opciones.
¿La temperature en cero garantiza la misma respuesta siempre?
La hace muy probable, no garantizada. Los proveedores agrupan peticiones y la aritmética puede variar un poco entre corridas, así que las respuestas todavía pueden cambiar. Tómalo como una tendencia fuerte, no como un contrato.
¿Qué diferencia hay entre temperature y top-p?
La temperature reforma toda la distribución. El top-p primero descarta la cola larga, se queda solo con las opciones más probables que suman p, y muestrea de lo que queda. Se suelen usar juntos, y cambiar los dos a la vez vuelve difícil razonar sobre los resultados.

Explicadores relacionados

Más en Velocidad, costo y control

Una idea a la vez, en tu correo

Lecciones y explicadores nuevos, escritos como están escritas estas páginas. De vez en cuando, no a diario, y nunca una secuencia de venta.

Primero te enviamos un enlace de confirmación. Puedes darte de baja con un clic, cuando quieras. Privacidad.

Parte de See How AI Works, un curso interactivo gratuito, donde aprendes cómo funciona la IA moderna operándola, no viendo videos.