Fine-tuning vs RAG
Las dos formas de que un modelo trabaje con información que no estaba en su entrenamiento. Se plantean como alternativas y resuelven problemas distintos.
Reentrenar el modelo con tus ejemplos
Buscar en tus documentos y dárselos al modelo
El fine-tuning cambia el modelo: le enseñas cómo debe comportarse, con qué tono, en qué formato. RAG no toca el modelo: busca en tus documentos y le pasa los fragmentos relevantes junto a la pregunta. La regla que resume la elección — el fine-tuning enseña comportamiento, RAG aporta conocimiento. Si lo que quieres es que sepa cosas tuyas, RAG. Si quieres que responda de una manera concreta, fine-tuning.
| Dimensión | Fine-tuning | RAG |
|---|---|---|
| Qué modifica | Los pesos del modelo | Nada: solo lo que le pasas |
| Bueno para | Tono, formato, comportamiento | Hechos, documentos, datos propios |
| Actualizar la información | Reentrenar | Añadir el documento y ya |
| Coste inicial | Alto: datos etiquetados y cómputo | Moderado: indexar y buscar |
| Coste por consulta | Menor: prompts más cortos | Mayor: se envía el contexto |
| Trazabilidad | Ninguna: no sabes de dónde sale | Total: puedes citar la fuente |
| Riesgo de inventar | Se mantiene | Baja mucho si el contexto es bueno |
Cuando necesitas un estilo o un formato muy específico de forma consistente, cuando el prompt se ha vuelto enorme de tanta instrucción, o cuando quieres reducir el coste por consulta a gran volumen.
Cuando la información cambia, cuando hay que poder citar la fuente, o cuando el problema es que el modelo no conoce tus datos. Que es la mayoría de los casos reales en una empresa.
Ir a fine-tuning para meter conocimiento. Es caro, hay que repetirlo cada vez que la información cambia, no permite citar de dónde sale nada y el modelo sigue inventando con la misma facilidad. Casi siempre lo correcto es empezar por RAG, y plantearse el fine-tuning solo cuando el problema que queda es de comportamiento, no de datos.