ChatGPT et Claude hallucinent régulièrement en droit : fausses jurisprudences, entreprises condamnées. 6 affaires réelles, les chiffres et quand exiger un expert.
Les réponses de Claude ou ChatGPT sur des sujets juridiques sont-elles fiables ?
Publié par Plateya — analyse indépendante. Temps de lecture : 8 min. Dernière mise à jour : juillet 2026.
Les réponses juridiques proposées par les IA comme GPT ou Claude sont-elles fiables ?
Non, les réponses de ChatGPT et de Claude sur des questions juridiques ne sont pas fiables sans vérification humaine. Ces modèles génèrent du texte plausible, pas du droit exact : ils inventent régulièrement des références, des jurisprudences et des politiques qui n'existent pas — un phénomène appelé « hallucination ». Preuve chiffrée : la base de données de référence tenue par le chercheur Damien Charlotin recense plus de 1 700 décisions de justice, dans le monde, où un tribunal a constaté l'usage de contenu juridique halluciné par une IA — dont environ 90 % rendues sur la seule année 2025 (source : damiencharlotin.com/hallucinations). Cas emblématiques : Air Canada condamnée pour son chatbot (2024), l'avocat de l'affaire Mata v. Avianca sanctionné (2023), Deloitte remboursant un rapport gouvernemental australien (2025), et — comble de l'ironie — les propres avocats d'Anthropic piégés par Claude (2025). La règle Plateya : l'IA est un excellent point de départ, jamais un point d'arrivée. Sur toute question juridique à enjeu, une validation par un expert humain reste indispensable. C'est précisément ce que propose TheBoardRoom by Plateya. |
La question revient dans chaque cabinet, chaque direction, chaque service RH : peut-on faire confiance à ChatGPT ou à Claude pour une question de droit ? La réponse honnête tient en une phrase. Ces IA sont brillantes pour dégrossir un sujet, reformuler un contrat ou expliquer un principe. Elles deviennent dangereuses dès qu'on leur demande une certitude juridique — une référence, une jurisprudence, un montant, une procédure.
Chez Plateya, nous produisons du contenu à fort volume avec l'IA, et nous savons exactement où elle décroche. Cet article vous montre, affaire réelle à l'appui, pourquoi la vérification humaine n'est pas une option. Et pourquoi, pour une question business à enjeu, le réflexe TheBoardRoom by Plateya — une vraie réponse d'expert, pas une réponse probable — vous évite le pire.
La réponse courte : plausible ne veut pas dire exact
Un grand modèle de langage (LLM) comme ChatGPT (OpenAI), Claude (Anthropic), Gemini (Google), Grok (xAI) ou Copilot (Microsoft) ne « connaît » pas le droit. Il calcule, mot après mot, la suite de texte la plus probable. Son objectif n'est pas la véracité : c'est la vraisemblance. Sur un sujet juridique, ces deux notions divergent en permanence.
Résultat : le modèle produit une réponse impeccablement formulée, avec le ton assuré d'un avocat senior… et un numéro de dossier, un article de loi ou un arrêt totalement inventés. L'erreur n'est pas visible à l'œil nu. C'est ce qui la rend redoutable en contexte professionnel.
|
Le chiffre à retenir. Même les outils juridiques spécialisés, conçus pour le droit, hallucinent encore dans environ 1 requête sur 6 selon le Stanford Institute for Human-Centered AI (HAI). Les modèles généralistes comme ChatGPT ou Claude font nettement pire sur les questions de droit précises. |
Six affaires qui ont fait scandale à cause d'une réponse d'IA
Ces cas ne sont pas des anecdotes. Chacun a produit une sanction financière, un préjudice réputationnel ou un précédent juridique. Ils dessinent une carte précise du risque.
1. Air Canada : condamnée pour une politique inventée par son chatbot (2024)
Après le décès de sa grand-mère, Jake Moffatt interroge le chatbot d'Air Canada sur les tarifs de deuil. Le bot lui affirme qu'il peut réserver au plein tarif et demander un remboursement rétroactif sous 90 jours. Cette politique n'existait pas. Air Canada refuse le remboursement, en plaidant que son chatbot serait une « entité juridique distincte » responsable de ses propres propos.
Le tribunal (British Columbia Civil Resolution Tribunal, Moffatt v. Air Canada, 2024 BCCRT 149) balaie l'argument : une entreprise est responsable de toutes les informations de son site, chatbot compris. Air Canada est condamnée à verser 812,02 CAD. Montant modeste, portée majeure : c'est l'un des premiers précédents établissant la responsabilité de l'entreprise pour les erreurs de son IA face au client.
2. Mata v. Avianca : l'avocat qui a cité six arrêts fantômes (2023)
Dans une affaire contre la compagnie Avianca devant un tribunal de New York, un avocat utilise ChatGPT pour sa recherche juridique. L'IA génère des citations de jurisprudence entièrement fabriquées — faux numéros de dossiers, faux attendus, fausses parties. L'avocat les soumet sans les vérifier.
Le juge P. Kevin Castel sanctionne les avocats et leur cabinet (Levidow, Levidow & Oberman) d'une amende de 5 000 $ pour mauvaise foi et manquement à leur devoir de vérification. L'affaire devient le cas d'école mondial. Depuis, elle sert de point de départ à la base de données de référence sur les hallucinations judiciaires. Des cas identiques se sont multipliés dans d'autres juridictions — dont plusieurs en 2025 en Alabama, dans l'Utah ou l'Oregon.
3. Walters v. OpenAI : la première action en diffamation contre une IA (2023-2025)
Un journaliste demande à ChatGPT de résumer une plainte réelle. L'IA invente que l'animateur radio Mark Walters est accusé d'escroquerie et de détournement de fonds — ce qui est faux. Walters poursuit OpenAI pour diffamation.
Le 19 mai 2025, la Superior Court du comté de Gwinnett (Géorgie) tranche en faveur d'OpenAI par un summary judgment, sur trois motifs : aucun lecteur raisonnable n'aurait pris la sortie de l'IA pour un fait, aucune faute (négligence ou malveillance) d'OpenAI n'est démontrée, et Walters n'a prouvé aucun préjudice. OpenAI gagne — mais le signal est clair : c'est la première action en diffamation visant une IA générative, et le débat sur la responsabilité ne fait que commencer.
4. Deloitte : un rapport gouvernemental truffé de fausses références (2025)
Deloitte Australie livre au Department of Employment and Workplace Relations un rapport de 237 pages, produit avec Azure OpenAI (GPT-4o), sur l'automatisation des pénalités du système social. Un chercheur de l'université de Sydney, Chris Rudge, découvre des références académiques inexistantes et une fausse citation d'un jugement de cour fédérale.
Le contrat valait environ 440 000 AUD. Deloitte reconnaît des erreurs, republie une version corrigée et rembourse le dernier versement (environ 97 000 AUD). Pour un cabinet du Big Four, dont le métier est la rigueur, l'atteinte à la crédibilité dépasse de loin la perte financière. La leçon vaut pour tout livrable client : l'IA n'est pas un expert, c'est un brouillon.
5. Anthropic : quand Claude piège ses propres avocats (2025)
Dans le procès en droit d'auteur qui oppose Anthropic aux éditeurs musicaux (Concord Music Group v. Anthropic, Californie), un avocat du cabinet Latham & Watkins utilise Claude pour formater une citation dans la déclaration d'une experte. Claude conserve le bon lien et la bonne année… mais invente un titre et des auteurs qui n'ont jamais travaillé ensemble.
La juge Susan van Keulen juge l'incident sérieux et retire le paragraphe concerné de la déclaration. Anthropic parle d'une « honest citation mistake » — une erreur de citation honnête, pas une fabrication délibérée. L'ironie est totale : même le créateur de Claude n'échappe pas aux hallucinations de son propre modèle. Aucun utilisateur, aussi sophistiqué soit-il, n'est à l'abri.
6. Google AI Overviews : « mangez un rocher par jour » (2024)
Les résumés IA de Google recommandent sérieusement de manger un caillou par jour (reprenant un article satirique du site The Onion) ou d'ajouter de la colle non toxique sur une pizza pour faire tenir le fromage. Cas viral, mais révélateur : un LLM ne distingue pas le second degré du conseil médical. Des audits de la BBC et de NewsGuard confirment que ChatGPT, Gemini et Claude relaient régulièrement de fausses informations sur des sujets sensibles — santé, finance, droit.
Pourquoi l'IA hallucine précisément sur le droit
Le droit cumule tout ce qui déstabilise un LLM : une terminologie où un mot change tout, des sources contradictoires, des textes qui évoluent, des jurisprudences qui s'annulent, et une exigence de précision absolue. Trois facteurs aggravent le risque :
- La confiance de façade. Le modèle formule une erreur avec le même aplomb qu'une vérité. Rien, dans le ton, ne signale le doute.
- Le vide comblé. Face à une question pointue ou peu documentée, le modèle préfère inventer une réponse crédible plutôt que d'admettre son ignorance.
- L'obsolescence. Une réforme récente (facturation électronique, arrêt maladie, SMIC, RGPD) peut échapper au modèle, dont les données s'arrêtent à une date donnée.
Ajoutez le biais de délégation : plus l'outil est fluide, plus on lui fait confiance, moins on vérifie. C'est exactement le piège dans lequel sont tombés les avocats de Mata v. Avianca et de Deloitte.
IA ou expert : le bon outil pour le bon usage
L'IA n'est pas l'ennemie de l'expertise : elle est complémentaire, à condition de connaître la frontière. Voici comment nous l'arbitrons chez Plateya.
|
Type de besoin |
IA (ChatGPT / Claude) seule |
Expert humain requis |
|
Comprendre un principe juridique |
Oui — vulgarisation fiable |
Non nécessaire |
|
Reformuler / résumer un contrat |
Oui — avec relecture |
Recommandé si enjeu |
|
Citer une jurisprudence ou un article de loi |
Non — risque d'invention |
Oui — vérification obligatoire |
|
Décision engageant l'entreprise (litige, contrat signé, conformité) |
Non |
Oui — indispensable |
|
Chiffres, montants, délais légaux exacts |
Non — à recouper systématiquement |
Oui |
La donnée qui change le débat
Un seul indicateur suffit à mesurer l'ampleur du problème. La base de données publique de référence, tenue par le chercheur et juriste Damien Charlotin (HEC Paris, Sciences Po), recense méthodiquement chaque décision de justice où un tribunal a constaté un contenu juridique halluciné par une IA.
|
Ce que dit la base Charlotin (damiencharlotin.com/hallucinations) Plus de 1 700 décisions recensées dans le monde à ce jour, dans plus de 35 pays. Environ 90 % de ces décisions ont été rendues sur la seule année 2025 — le phénomène s'accélère. Passée de moins de 700 à plus de 1 500 cas en quelques mois de 2025 ; le rythme d'ajout est passé de 2-3 à 5-6 cas par jour en fin d'année. Sanctions en hausse : amendes personnelles pour les avocats, jusqu'à plusieurs dizaines de milliers de dollars, et remboursement des frais engagés par la partie adverse pour détecter la fraude. |
Traduction business : l'hallucination juridique n'est plus un risque théorique. C'est un risque documenté, chiffré, sanctionné — et croissant.
Zoom : besoin d'une réponse d'expert, plus fiable que l'IA ?
|
TheBoardRoom by Plateya L'IA vous donne une réponse probable. TheBoardRoom by Plateya vous donne une réponse d'expert. Pour une question business à enjeu — droit, contrat, conformité, RH, finance — vous n'avez pas besoin d'un texte bien tourné. Vous avez besoin d'une réponse juste, engageante, tenue par un professionnel identifié et responsable de ses propos. C'est exactement la différence entre un chatbot et un expert. TheBoardRoom by Plateya connecte les dirigeants de TPE et PME à des experts seniors sélectionnés (avocats, DAF externalisés, consultants RH, managers de transition) pour obtenir la bonne réponse, sans hallucination, sans mauvaise surprise. → Découvrez comment obtenir une réponse d'avocat pour une question business : IA ou expert ? plateya.fr/blog/detail/reponse-davocat-pour-une-question-business-ia-ou-expert |
FAQ — Fiabilité de l'IA sur les questions juridiques
Peut-on utiliser ChatGPT ou Claude pour du droit ?
Oui, pour comprendre, vulgariser, reformuler ou dégrossir un sujet. Non, pour obtenir une certitude — une jurisprudence, un article de loi, un montant ou un délai exact — sans vérification par un professionnel. L'IA produit du texte plausible, pas du droit exact.
Qu'est-ce qu'une hallucination d'IA ?
C'est une réponse fausse mais formulée avec assurance : le modèle invente une référence, une jurisprudence, une politique ou une citation qui n'existe pas. Sur les sujets juridiques, c'est le risque numéro un, car l'erreur est invisible et le ton reste crédible.
Une entreprise est-elle responsable des erreurs de son chatbot IA ?
Oui. Dans l'affaire Moffatt v. Air Canada (2024), le tribunal a jugé l'entreprise responsable des informations erronées fournies par son chatbot, rejetant l'idée que l'IA serait une entité distincte. L'entreprise reste responsable de ce que dit son outil.
Claude est-il plus fiable que ChatGPT en droit ?
Aucun des deux n'est fiable sans vérification. En 2025, les propres avocats d'Anthropic ont été piégés par une citation hallucinée par Claude dans un procès. La prudence s'applique à tous les modèles : ChatGPT, Claude, Gemini, Grok, Copilot.
Que risque un professionnel qui soumet une IA non vérifiée ?
Des sanctions bien réelles : amendes (5 000 $ dans Mata v. Avianca), retrait de pièces, remboursement de frais, formation obligatoire et atteinte réputationnelle. Plus de 1 700 décisions de justice ont déjà porté sur des hallucinations d'IA dans le monde.
Quelle est la bonne pratique ?
La règle d'or : l'IA pour explorer, l'expert humain pour décider. Sur toute question à enjeu, faites valider la réponse par un professionnel identifié. C'est le rôle de TheBoardRoom by Plateya.
Sources
- British Columbia Civil Resolution Tribunal, Moffatt v. Air Canada, 2024 BCCRT 149 (14 février 2024).
- Mata v. Avianca, US District Court, Southern District of New York, ordonnance du juge P. Kevin Castel (juin 2023).
- Walters v. OpenAI, LLC, Superior Court of Gwinnett County (Géorgie), summary judgment du 19 mai 2025.
- Concord Music Group, Inc. v. Anthropic PBC, US District Court, N.D. California — déclaration de Latham & Watkins (mai 2025).
- Department of Employment and Workplace Relations (Australie) / Deloitte — rapport corrigé et remboursement (octobre 2025).
- Damien Charlotin, AI Hallucination Cases Database, damiencharlotin.com/hallucinations (consultée en juillet 2026).
- Stanford Institute for Human-Centered AI (HAI) — taux d'hallucination des outils juridiques spécialisés.
Plateya — La marketplace des experts seniors pour dirigeants de TPE/PME. Réponses humaines, pas probables.
