Hallucinations de l'IA

Les hallucinations constituent le risque principal de l'utilisation de l'IA en droit. Un LLM ne "comprend" pas le droit : il génère des séquences de mots statistiquement probables en fonction de son entraînement. Lorsque les données d'entraînement sont insuffisantes ou ambiguës sur un sujet, le modèle peut produire des informations totalement fictives avec un aplomb trompeur — inventer des références de jurisprudence, citer des articles de loi inexistants, ou attribuer des positions doctrinales fantaisistes. L'affaire Mata v. Avianca (2023) illustre dramatiquement ce risque : des avocats américains ont été sanctionnés à hauteur de 5 000 dollars pour avoir soumis au tribunal des citations jurisprudentielles entièrement fictives générées par ChatGPT, sans aucune vérification. En France, le CNB a rappelé que l'avocat reste entièrement responsable de tout contenu produit avec l'aide de l'IA. Pour atténuer les hallucinations, plusieurs stratégies sont disponibles : l'architecture RAG qui ancre les réponses dans des sources vérifiées, un réglage de température basse (0.1-0.3) pour privilégier la précision, et surtout une vérification humaine systématique. Aucun outil d'IA ne dispense le professionnel du droit de son devoir de contrôle et de son obligation de compétence.