IA : un avocat condamné pour de faux témoins en appel

Une sanction de 5 000 dollars pour un mémoire d’appel contaminé par l’IA

La justice américaine franchit une nouvelle étape dans la réponse judiciaire aux usages négligents de l’intelligence artificielle générative. La Cour suprême du Nouveau-Mexique a infligé une amende de 5 000 dollars à un avocat dont le mémoire d’appel, déposé dans une affaire de meurtre, contenait des témoins fictifs et un faux témoignage attribué à un policier. Ces éléments avaient été générés avec l’aide d’une intelligence artificielle, selon les informations rapportées par The Verge.

Le montant de la sanction est significatif, mais l’importance de la décision dépasse la seule somme exigée de l’avocat. Le dossier concernait une procédure d’appel dans une affaire criminelle, un terrain où la qualité de l’information soumise à la juridiction est particulièrement déterminante. En appel, les avocats ne plaident pas seulement sur une intuition ou une stratégie narrative : ils présentent des faits, un dossier procédural, des citations, des références et des arguments censés être vérifiables. La présence de personnes qui n’existent pas et d’un témoignage policier fabriqué constitue donc une défaillance qui touche au fonctionnement même de la procédure contradictoire.

La décision vient rappeler une règle élémentaire du droit professionnel : un avocat demeure responsable de ce qu’il signe, dépose et présente à un tribunal. L’utilisation d’un outil d’IA, même lorsqu’il sert à préparer un document, à résumer des pièces ou à proposer une formulation, ne crée ni immunité ni délégation de responsabilité. L’outil peut aider à produire un texte ; il ne peut pas endosser les obligations déontologiques, procédurales et factuelles attachées à la profession d’avocat.

Dans son article consacré à l’affaire, The Verge décrit un mémoire ayant intégré des contenus inventés par l’IA dans une procédure où l’exigence de rigueur ne saurait être relativisée. Ce point est central : le problème ne se limite pas à une citation juridique erronée ou à une formulation maladroite. Les éléments litigieux concernaient des témoins et un témoignage de police, c’est-à-dire des composantes potentiellement décisives dans l’appréciation d’un dossier criminel.

La Cour suprême du Nouveau-Mexique ne juge pas ici l’existence de l’IA générative en tant que telle. Elle sanctionne le comportement d’un professionnel qui a laissé entrer dans une procédure judiciaire des informations qu’il n’avait pas suffisamment vérifiées. Cette distinction est appelée à structurer une grande partie du contentieux à venir autour des outils génératifs : les juridictions ne demandent pas nécessairement aux professionnels de renoncer à ces systèmes, mais elles leur imposent de conserver un contrôle humain réel, documenté et adapté à la gravité du contexte.

La formule est d’autant plus importante que les outils de génération de texte sont désormais facilement accessibles. Ils peuvent produire rapidement un récit cohérent, une note structurée, une synthèse ou une liste de références. Mais leur capacité à formuler une réponse convaincante n’est pas une garantie d’exactitude. Lorsqu’un système ne dispose pas d’une information fiable, ou lorsqu’il extrapole à partir de schémas linguistiques, il peut générer un contenu plausible mais faux. Dans le langage courant de l’IA, ce phénomène est souvent désigné comme une « hallucination ». Dans un tribunal, le vocabulaire technologique importe moins que la conséquence : un document contenant une affirmation non vérifiée peut induire la juridiction en erreur.

Dans un dossier de meurtre, l’erreur générative change de nature

Le contexte criminel distingue fortement cette affaire de nombreux incidents précédents liés à l’IA. Une erreur dans un support marketing, une réponse erronée d’un assistant conversationnel ou un résumé imprécis dans un document interne peuvent entraîner des coûts, une perte de temps ou un risque de réputation. Dans une procédure d’appel en matière de meurtre, les conséquences potentielles sont d’une autre nature. Les juridictions examinent des décisions qui peuvent toucher à la liberté d’une personne, à la validité d’une condamnation et, plus largement, à la confiance accordée aux institutions judiciaires.

Le mémoire d’appel n’est pas une simple note préparatoire. C’est un document adressé à la cour pour soutenir une position juridique et factuelle. Il s’inscrit dans un échange procédural où chaque partie doit pouvoir répondre aux arguments de l’autre, où les magistrats doivent pouvoir contrôler les références invoquées et où le dossier doit rester fidèle aux éléments effectivement produits. L’introduction de témoins fictifs perturbe ce cadre : l’autre partie doit alors identifier une invention, la cour doit consacrer du temps à vérifier ce qui aurait dû l’être avant le dépôt, et le débat judiciaire peut être déplacé par des faits qui n’ont jamais existé.

Le faux témoignage policier relevé par la Cour suprême du Nouveau-Mexique est particulièrement révélateur du risque. Le témoignage d’un agent des forces de l’ordre peut occuper une place importante dans un dossier pénal, notamment lorsqu’il décrit une enquête, une interpellation, des constatations ou des échanges. Lui attribuer des propos qui ne figurent pas dans le dossier revient à créer artificiellement une pièce argumentative. Même si l’invention est ensuite détectée, elle oblige la justice à traiter une information parasite et peut fragiliser la perception de la défense présentée.

La sanction montre aussi que l’IA générative ne peut être abordée comme un simple outil de traitement de texte amélioré. Un correcteur orthographique peut signaler une faute, un logiciel de mise en forme peut organiser des paragraphes, un moteur de recherche peut renvoyer vers des sources identifiables. Un modèle génératif répond différemment : il produit du langage et peut donner l’impression de restituer un fait sans fournir, de manière fiable, la chaîne de preuve qui permettrait de le confirmer. Cette différence exige une méthode de contrôle adaptée.

Pour un avocat, cette méthode implique au minimum de revenir aux pièces sources : transcriptions d’audience, procès-verbaux, décisions de justice, pièces communiquées par les parties, documents officiels et références exactes. Une formulation proposée par une IA ne devrait jamais remplacer cette lecture. Elle peut, à la rigueur, servir de point de départ à un travail humain ; elle ne peut pas constituer le point d’arrivée lorsque le texte est destiné à une juridiction.

L’affaire souligne également une tension propre au travail juridique contemporain. Les cabinets, les services juridiques et les juridictions sont soumis à des volumes documentaires importants et à des délais souvent contraints. L’IA générative promet de résumer, classer, reformuler et accélérer la rédaction. Mais la rapidité n’a de valeur que si elle n’abaisse pas le niveau de fiabilité. Dans un secteur où la traçabilité des sources est essentielle, un gain de temps initial peut se transformer en coût majeur si l’utilisateur doit ensuite réparer une erreur, répondre à une demande d’explication de la cour ou faire face à une sanction.

La décision du Nouveau-Mexique apporte donc un signal concret : la gravité de la matière traitée pèsera dans l’appréciation de la négligence. Plus un document peut affecter les droits d’une personne ou l’issue d’une procédure, moins il est acceptable de s’en remettre à une production automatisée non vérifiée. Dans le domaine pénal, cette exigence est particulièrement élevée, mais le principe est transposable à d’autres secteurs sensibles : santé, assurance, banque, ressources humaines, administration ou information financière.

De l’affaire Avianca à une jurisprudence de responsabilité professionnelle

Le dossier du Nouveau-Mexique s’inscrit dans une série d’affaires qui ont rendu visible un problème longtemps cantonné aux démonstrations techniques : un modèle de langage peut produire de fausses références avec assurance. L’épisode le plus connu reste l’affaire Mata v. Avianca, aux États-Unis. En 2023, des avocats avaient soumis à un tribunal fédéral de New York un document citant des décisions de justice inexistantes. Le juge fédéral P. Kevin Castel avait sanctionné les avocats concernés et leur cabinet à hauteur de 5 000 dollars.

Dans cette affaire devenue emblématique, le sujet principal n’était déjà pas l’IA comme entité responsable. La question était celle du contrôle exercé par les personnes qui s’étaient appuyées sur un outil conversationnel pour rechercher ou rédiger des arguments juridiques. Les fausses décisions citées n’avaient pas été identifiées avant le dépôt. Le juge avait souligné la gravité de la présentation de jurisprudences inexistantes à un tribunal, tout en relevant que l’usage de technologies nouvelles n’était pas, en soi, interdit.

La sanction du Nouveau-Mexique prolonge cette logique, mais son objet paraît plus inquiétant encore au regard des éléments rapportés par The Verge. Dans Mata v. Avianca, les contenus fabriqués concernaient des références jurisprudentielles. Dans le dossier d’appel criminel examiné au Nouveau-Mexique, ils concernent des personnes et un témoignage policier. Dans les deux cas, la défaillance est la même : un texte généré a été traité comme s’il constituait un résultat de recherche fiable. Mais la matière pénale renforce la dimension institutionnelle de l’erreur.

Ces décisions dessinent progressivement une frontière utile pour les professions réglementées. D’un côté, l’IA peut être employée comme assistance, sous réserve des règles de confidentialité, de sécurité, de secret professionnel et de vérification. De l’autre, elle ne peut pas devenir une source autonome dont les résultats seraient intégrés tels quels dans un acte professionnel. Le professionnel doit être en mesure d’expliquer l’origine de chaque fait important et d’en retrouver la preuve dans le dossier pertinent.

Cette exigence n’est pas limitée aux avocats. Les journalistes doivent vérifier les informations produites par un outil génératif avant publication. Les médecins doivent contrôler les éléments utilisés dans une décision clinique. Les experts-comptables, les consultants, les responsables de conformité et les agents publics ne peuvent pas se retrancher derrière un logiciel si une recommandation, une analyse ou une déclaration s’avère erronée. L’IA modifie les outils de travail, pas la chaîne de responsabilité.

Pour la justice, l’enjeu est aussi organisationnel. Lorsque de faux éléments apparaissent dans une procédure, les tribunaux doivent les détecter, les qualifier et parfois mettre en place des mesures correctrices. Cela représente du temps pour les juges, les greffes et les parties adverses. La promesse d’efficacité associée aux modèles génératifs peut alors se retourner contre le système judiciaire : un document produit plus rapidement, mais insuffisamment contrôlé, allonge finalement le traitement du litige.

La multiplication des sanctions, avertissements et décisions procédurales pourrait ainsi créer une forme de norme pratique avant même que des règles très détaillées soient partout adoptées. Les juridictions n’ont pas besoin d’attendre une loi spécifique à l’IA pour rappeler les obligations existantes de loyauté, de diligence et de véracité. Le droit professionnel, les règles de procédure et le pouvoir de sanction des tribunaux offrent déjà des instruments pour répondre à un mémoire défaillant.

La portée de cette évolution mérite toutefois d’être précisément comprise. Il ne s’agit pas d’affirmer que toute erreur contenue dans un document préparé avec une IA constitue automatiquement une faute disciplinaire. Les erreurs existent dans le travail humain et les procédures prévoient des mécanismes de correction. Ce que les affaires rendues publiques mettent en évidence, c’est le risque particulier d’un usage où l’utilisateur ne vérifie pas les résultats avant de les présenter comme exacts. La négligence ne réside pas dans le fait d’avoir demandé une aide à un système ; elle réside dans l’abandon du contrôle qui doit accompagner cette aide.

Pour les professions juridiques françaises et européennes, un avertissement opérationnel

La décision américaine ne s’applique pas directement aux avocats français. Elle n’en constitue pas moins un avertissement très concret pour l’ensemble des professionnels du droit en France et en Europe. Les assistants génératifs sont désormais capables de rédiger des projets de courriels, de synthétiser des documents, de proposer des plans de conclusions ou d’extraire des thèmes récurrents d’un corpus. Leur diffusion dans les pratiques quotidiennes pose donc moins la question abstraite de leur arrivée que celle de leur encadrement.

En France, les avocats sont déjà soumis à des obligations professionnelles qui rendent difficilement défendable le dépôt d’un document contenant des faits ou des sources non vérifiés. La confidentialité des échanges, le secret professionnel, la loyauté des débats et la qualité du conseil demeurent des exigences structurantes. Une IA accessible en ligne peut également poser un problème supplémentaire si des informations confidentielles, des données personnelles ou des pièces non publiques sont copiées dans son interface sans garanties suffisantes sur leur traitement.

Le cas du Nouveau-Mexique illustre ainsi deux risques distincts, qui peuvent se cumuler. Le premier est le risque de fiabilité : l’outil invente une référence, un fait, une personne ou une citation. Le second est le risque de confidentialité : l’utilisateur transmet à un service externe des informations qu’il n’aurait pas dû communiquer. Même lorsque le texte final est factuellement correct, le processus de production peut donc soulever des questions de conformité et de protection des données.

Le cadre européen évolue parallèlement. Le règlement européen sur l’intelligence artificielle, souvent appelé AI Act, introduit des obligations progressives pour les acteurs concernés par les systèmes d’IA. Son approche repose notamment sur le niveau de risque des usages. Il ne transforme pas chaque utilisateur professionnel en spécialiste technique, mais il accroît l’attention portée à la gouvernance, à la documentation et à la maîtrise des risques liés aux systèmes automatisés.

Pour les cabinets français, la leçon de cette affaire est surtout opérationnelle. Un usage responsable de l’IA générative suppose de définir les tâches pour lesquelles elle peut être utilisée et celles qui exigent une revue renforcée. La reformulation d’un passage non sensible, la préparation d’un plan de travail ou la création d’une liste de questions peuvent relever d’une assistance encadrée. En revanche, les citations de jurisprudence, les références doctrinales, les citations de témoignages, les éléments de procédure et les faits déterminants doivent être rapprochés de leurs sources primaires avant toute utilisation.

Cette distinction doit être formalisée plutôt que laissée à l’appréciation isolée de chaque collaborateur. Une politique interne peut prévoir l’interdiction de soumettre certaines catégories de données à des outils publics, l’obligation de signaler l’usage d’une IA dans le processus de rédaction lorsque cela est pertinent, ainsi que la conservation des sources ayant permis de vérifier les affirmations importantes. Il ne s’agit pas de bureaucratiser chaque tâche, mais d’éviter qu’un texte plausible passe pour un texte fiable simplement parce qu’il est bien écrit.

Les éditeurs français de technologies juridiques ont aussi intérêt à tirer les conséquences de ces affaires. La valeur d’un assistant juridique ne dépend pas uniquement de la fluidité de ses réponses. Elle dépend de sa capacité à relier les informations produites à des bases de données identifiables, à citer les sources consultables et à permettre à l’utilisateur de distinguer clairement une synthèse générée d’un document d’origine. Dans le droit, la réponse sans source est moins utile qu’elle ne peut le paraître : elle oblige le professionnel à refaire intégralement le travail de vérification.

Le marché francophone possède sur ce point une spécificité pratique. Le droit français, le droit de l’Union européenne, la jurisprudence nationale et les réglementations sectorielles forment un environnement documentaire dont la précision terminologique est déterminante. Une référence mal reproduite, une décision confondue avec une autre ou une disposition citée hors de son contexte peut modifier la portée d’un argument. La qualité linguistique d’un modèle en français ne dispense donc jamais d’une vérification juridique, pas plus que la disponibilité d’une interface francophone ne garantit que l’outil connaît la dernière version d’un texte applicable.

La formation apparaît, dans ce contexte, comme un enjeu au moins aussi important que le choix de l’outil. Les jeunes professionnels peuvent être tentés de considérer les assistants conversationnels comme des moteurs de recherche. Or les deux outils n’ont pas le même fonctionnement. Un moteur de recherche renvoie vers des pages ou des documents que l’utilisateur peut consulter ; un modèle génératif produit directement une réponse, parfois sans indiquer correctement les limites de ses connaissances. Confondre les deux usages est l’une des voies les plus rapides vers l’erreur professionnelle.

La responsabilité humaine devient le véritable marché de l’IA juridique

À court terme, les affaires comme celle du Nouveau-Mexique devraient renforcer la prudence des cabinets et des juridictions. Certaines organisations choisiront de limiter fortement l’usage des assistants génératifs, surtout dans les dossiers pénaux, contentieux ou hautement confidentiels. D’autres investiront dans des environnements privés, des outils connectés à des sources documentaires contrôlées et des processus de relecture systématique. Ces deux réactions répondent au même constat : la production de texte n’est pas le cœur du problème ; la fiabilité de ce qui est affirmé l’est.

Cette évolution pourrait favoriser les solutions qui donnent accès aux documents sources plutôt que celles qui se contentent de fournir une réponse rédigée. Dans le secteur juridique, un système utile devra idéalement permettre de remonter à la décision, au texte officiel, à la pièce citée ou à la transcription concernée. La génération d’un paragraphe restera attractive, mais sa valeur professionnelle dépendra de plus en plus de la possibilité de l’auditer.

La notion d’auditabilité est essentielle. Face à une réponse produite par un modèle, le professionnel doit pouvoir se demander : sur quels documents cette phrase repose-t-elle ? Est-elle une reformulation fidèle, une inférence ou une invention ? Quelles sources confirment ce fait ? Quel collègue a validé le passage avant le dépôt ? Dans une procédure sensible, ces questions devraient précéder la signature, et non surgir après la découverte d’une erreur.

La décision de la Cour suprême du Nouveau-Mexique montre que les tribunaux peuvent déjà transformer ces exigences en conséquences financières et professionnelles. L’amende de 5 000 dollars n’est pas seulement une pénalité individuelle. Elle devient un repère pour un marché qui cherche encore ses usages légitimes. Elle rappelle aux éditeurs, aux employeurs et aux utilisateurs que l’argument de l’innovation ne suffit pas face à une obligation de compétence.

Cette réalité pourrait modifier la manière dont les entreprises vendent l’IA juridique. Les promesses de rédaction instantanée ou d’automatisation massive risquent de paraître insuffisantes si elles ne s’accompagnent pas de garanties de traçabilité, de contrôle d’accès, de gestion des données et de validation humaine. Les utilisateurs professionnels ne recherchent pas seulement un texte rapide. Ils recherchent un texte qu’ils peuvent défendre devant un client, un régulateur, un juge ou un ordre professionnel.

Pour les juridictions, la prochaine étape pourrait être l’adaptation des pratiques procédurales. Sans présumer de règles particulières, les tribunaux peuvent être amenés à demander des précisions lorsqu’une référence semble introuvable, à rappeler les obligations de vérification dans leurs décisions ou à sanctionner les manquements les plus graves. L’objectif ne serait pas de traquer toute utilisation de l’IA, mais d’empêcher que l’automatisation serve de prétexte à la dégradation de la qualité des écritures.

La perspective de long terme est donc moins celle d’une opposition simple entre justice et intelligence artificielle que celle d’un durcissement des conditions d’usage. Les outils génératifs continueront probablement de s’intégrer à la recherche, à la rédaction et à l’analyse documentaire. Mais leur adoption dans les métiers à forte responsabilité dépendra de leur capacité à s’insérer dans une chaîne de preuve et de contrôle humain. L’affaire du Nouveau-Mexique, telle que rapportée par The Verge, fixe une limite nette : lorsqu’un professionnel présente à la justice des témoins inexistants et un faux témoignage, l’IA ne constitue pas une excuse. Elle devient au contraire le révélateur d’un défaut de méthode dont le professionnel reste pleinement comptable.