Le principe
Entraîner un LLM de zéro coûte des dizaines de millions d'euros. Le fine-tuning part du modèle déjà entraîné et ajuste ses paramètres sur un jeu de données beaucoup plus petit, de quelques centaines à quelques dizaines de milliers d'exemples. Le modèle garde ses capacités générales et acquiert le comportement visé.
Des techniques comme LoRA (Low-Rank Adaptation) rendent l'opération abordable : plutôt que de modifier tous les paramètres, elles n'en entraînent qu'une petite fraction ajoutée au modèle.
Fine-tuning ou RAG
La confusion est fréquente. Le fine-tuning enseigne un comportement : répondre dans un style donné, produire du JSON valide, classer des tickets selon une grille maison. Le RAG fournit des connaissances : documents internes, données récentes. Pour qu'un modèle réponde à partir de ses propres documents, le RAG est presque toujours le bon choix, il suffit d'indexer les nouveautés là où le fine-tuning demanderait un réentraînement à chaque mise à jour.
Les limites
Tout repose sur le jeu de données : quelques centaines d'exemples médiocres produisent un modèle médiocre, avec la constance en plus. Un fine-tuning trop appuyé peut aussi dégrader les capacités générales du modèle, un phénomène connu sous le nom d'oubli catastrophique. Et le modèle spécialisé reste figé à sa date d'entraînement, sa spécialité vieillit avec lui.