Glossaire encyclopédique · France
fine-tuning
Technique consistant à poursuivre l’entraînement d’un modèle existant sur un jeu de données ciblé afin d’adapter son comportement à une tâche, un domaine ou un style particulier.
Définition
Le fine-tuning modifie les paramètres du modèle, contrairement à un système RAG qui ajoute du contexte documentaire au moment de la requête sans réentraîner nécessairement le modèle. Il peut améliorer certaines performances mais crée aussi des enjeux de qualité des données, de coûts, de régression et de maintenance.
Pourquoi cette notion compte
Pour un service public, il faut choisir cette technique uniquement lorsque l’adaptation du modèle apporte une valeur supérieure à des méthodes plus simples et plus auditables.
Exemple concret
Adapter un modèle à un vocabulaire juridique peut nécessiter un fine-tuning ; citer des textes à jour dans chaque réponse se prête souvent mieux à une récupération documentaire de type RAG.
Confusion fréquente
Fine-tuning et prompt engineering ne sont pas la même chose : l’un modifie le modèle par entraînement, l’autre modifie l’instruction envoyée au modèle.