Explicador en lenguaje claro
RAG o fine-tuning: cómo elegir de verdad
¿Uso RAG o fine-tuning?
Pregúntate qué te falta. Si al modelo le faltan datos, usa retrieval: deja los documentos fuera del modelo y trae los relevantes al prompt, así corregir un dato es una edición y las respuestas pueden citar su fuente. Si el modelo tiene los datos pero falla en el formato, el tono o la tarea, haz fine-tuning: compra consistencia y prompts más cortos. El conocimiento es retrieval, el comportamiento es fine-tuning. Casi todos necesitan retrieval, y quienes empiezan por fine-tuning suelen terminar haciendo las dos cosas.
Revisado por última vez el
No te quedes en leerlo. Opera tú mismo el mecanismo en una lección interactiva corta.
Míralo funcionar: RAG: la recuperación como retorno a la similitud →Gratis, sin código, sin registro.
Lo que la gente entiende mal
- El fine-tuning le enseña tus documentos al modelo. Sobre todo le enseña un estilo. Los datos metidos así son difíciles de actualizar e imposibles de citar.
- RAG es la opción barata y el fine-tuning la seria. El retrieval es lo que corre en producción; el fine-tuning es una especialización encima.
- Es uno o el otro. Ajusta el comportamiento con fine-tuning y trae los datos con retrieval. Resuelven problemas distintos y se combinan.
Dónde lo ves en productos reales
- Asistentes de soporte que responden desde un centro de ayuda y enlazan el artículo que usaron.
- Asistentes de empresa ajustados a un estilo propio, que igual traen el documento vivo.
- Clasificadores estrechos ajustados para un formato de salida fijo a mucho volumen.
Preguntas frecuentes
- ¿Cuál sale más barato?
- El retrieval cuesta más por petición, porque mandas los documentos recuperados en cada llamada. El fine-tuning cuesta más al principio y luego abarata cada petición al acortar el prompt. Con poco volumen gana el retrieval con claridad; con muchísimo volumen en una tarea estrecha, un modelo chico ajustado puede salir más barato.
- ¿Cómo mantengo las respuestas al día con cada uno?
- Con retrieval actualizas el documento y la siguiente respuesta ya está al día. Con fine-tuning, poner información nueva significa otra corrida de entrenamiento, y por eso nadie lo usa para algo que cambia cada semana.
- ¿Qué conviene probar antes que cualquiera de los dos?
- Un prompt mejor con dos o tres ejemplos, y comprobar que el modelo falla de verdad en lo que crees. Buena parte de los problemas que se achacan a falta de conocimiento resultan ser una instrucción vaga o un paso de retrieval que devolvió el pasaje equivocado.
Explicadores relacionados
Más en Construir encima, y confiar en ello
Parte de See How AI Works, un curso interactivo gratuito, donde aprendes cómo funciona la IA moderna operándola, no viendo videos.