Fine-tuning
Le fine-tuning est un entraînement complémentaire d'un modèle de fondation pré-entraîné sur des données spécialisées pour adapter ses performances à un domaine spécifique. Contrairement au pré-entraînement initial (qui coûte des millions de dollars), le fine-tuning réajuste les paramètres existants à moindre coût. La technique LoRA permet un fine-tuning efficace avec des ressources limitées.
Le fine-tuning est une technique d'adaptation qui permet de spécialiser un modèle de fondation générique pour un domaine précis comme le droit. Au lieu de ré-entraîner un modèle de zéro — une opération qui coûte des millions de dollars et nécessite des infrastructures massives — le fine-tuning réajuste les paramètres existants sur un corpus cible, beaucoup plus petit mais hautement spécialisé.
Dans le contexte juridique, le fine-tuning permet d'adapter un LLM à la terminologie du droit français, aux structures spécifiques des décisions de justice, au style rédactionnel des conclusions ou des actes. La technique LoRA (Low-Rank Adaptation) a révolutionné cette approche en permettant un fine-tuning efficace avec des ressources de calcul limitées, rendant la spécialisation accessible à des acteurs plus modestes.
Cependant, le fine-tuning comporte des risques : sur-spécialisation (le modèle perd en capacité générale), amplification des biais présents dans le corpus d'entraînement, et potentiellement une augmentation des hallucinations sur les sujets hors du corpus de fine-tuning. C'est pourquoi les solutions legaltech combinent souvent fine-tuning et RAG : le fine-tuning pour le style et la terminologie, le RAG pour la précision factuelle.
Termes liés
Un modèle de fondation est un grand modèle d'IA entraîné sur des données massives non étiquetées par apprentissage auto-supervisé,…
Un LLM (Large Language Model) est un modèle d'intelligence artificielle entraîné sur des volumes massifs de texte pour apprendre l…
Le RAG (Retrieval Augmented Generation) est une technique combinant la recherche documentaire avec un LLM. Avant de générer une ré…
Un corpus d'entraînement désigne l'ensemble des données utilisées pour entraîner un modèle d'IA. Pour les LLM, il s'agit de millia…
Les hallucinations de l'IA désignent la production d'informations fausses, inventées ou incohérentes présentées avec une apparente…