Ajuste fino (fine-tuning)

La vida de un modelo suele tener dos etapas muy distintas. El preentrenamiento es caro, largo y genérico: el modelo aprende de una cantidad enorme de datos variados, una vez (o pocas veces). El ajuste fino parte de ese modelo ya entrenado y sigue entrenándolo con un conjunto mucho más chico y específico de ejemplos, para que priorice los patrones de esa tarea o dominio en particular. Es la diferencia entre formar a alguien de manera general y darle después una capacitación corta para un puesto concreto.

El paradigma de "preentrenar y después ajustar" no nació con los modelos de lenguaje actuales. Se popularizó en procesamiento de lenguaje con ULMFiT (Howard y Ruder, 2018), que mostró que se podía tomar un modelo de lenguaje entrenado de forma genérica y ajustarlo con relativamente pocos datos etiquetados para tareas de clasificación de texto, logrando mejoras grandes de desempeño frente a entrenar desde cero. Esa misma lógica —aprender algo general primero, especializarse después con menos datos— es la que después escalaron los modelos fundacionales actuales.

En la práctica, ajustar un modelo significa seguir actualizando sus parámetros (o sólo una fracción de ellos) usando un conjunto de ejemplos nuevo, normalmente mucho más chico y curado que el corpus de preentrenamiento. Existen técnicas de ajuste fino eficiente —como LoRA— que modifican sólo una pequeña porción de los parámetros en vez de tocar el modelo completo, lo que reduce mucho el costo de memoria y cómputo necesario, y suele combinarse con cuantización para ajustar modelos grandes en una sola tarjeta gráfica de consumo.

Se usa hoy para adaptar un modelo al tono de una empresa, a un dominio técnico o legal, a un idioma o dialecto poco representado, o a un formato de salida específico (código, tickets de soporte, informes clínicos), sin tener que entrenar un modelo desde cero. También es la base técnica de procesos más específicos, como el ajuste con retroalimentación humana que usan los asistentes conversacionales (ver RLHF), aunque ese es un tipo particular de ajuste fino, no el único.

Se discute cuándo conviene ajustar un modelo frente a otras alternativas: para conocimiento que cambia seguido, RAG suele ser más práctico que reajustar el modelo cada vez; y ajustar demasiado agresivamente sobre una tarea puede degradar capacidades generales que el modelo tenía antes (un fenómeno conocido como "olvido catastrófico"). La propia industria ha ido moviendo el énfasis: OpenAI, por ejemplo, documenta en 2026 que está discontinuando su plataforma de ajuste fino tradicional para usuarios nuevos, en favor de otras técnicas de optimización, lo que muestra que el lugar exacto del ajuste fino en el flujo de trabajo sigue en discusión.