Fine-tuning

El fine-tuning, o ajuste fino, parte de un modelo ya entrenado con enormes cantidades de textos o imágenes y lo hace trabajar de nuevo con un conjunto de datos más pequeño y específico. El modelo conserva sus conocimientos generales, pero aprende un tono, un formato de respuesta o un vocabulario profesional: jurídico, médico, técnico o simplemente el de tu empresa.

Volver a entrenar todos los parámetros de un gran modelo exige mucha memoria y varias GPU de gama alta. Por eso se usan mucho métodos como LoRA: congelan el modelo original y solo entrenan pequeñas matrices añadidas al lado, unos pocos millones de parámetros en lugar de varios miles de millones. El resultado cabe en un archivo pequeño que se carga encima del modelo base. El fine-tuning no siempre es la respuesta adecuada: para que una IA conozca tus documentos, el RAG suele ser más sencillo y más fácil de actualizar.

En cuanto al hardware, la cantidad de VRAM es el primer criterio. Un LoRA sobre un modelo de 7.000 a 8.000 millones de parámetros cargado en versión cuantizada sigue al alcance de una tarjeta de 16 GB. Un fine-tuning completo del mismo modelo exige mucho más, a menudo varias GPU conectadas entre sí. Fíjate también en el ancho de banda de memoria y en la compatibilidad con formatos de cálculo recientes como el BF16.

Montamos estaciones y rigs de GPU adaptados tanto al entrenamiento como a la inferencia, y te ayudamos a dimensionar la memoria según los modelos que quieres usar.