Anthropic va tatouer les textes de Claude, un tournant

Anthropic prévoit d’ajouter un marquage aux textes générés par ses modèles Claude. Révélée par TechCrunch dans un article intitulé “Anthropic says it will watermark text generated by its AI models”, l’annonce fait basculer la question de la provenance des contenus génératifs sur un terrain particulièrement délicat : celui de l’écrit. L’entreprise ne parle pas seulement de contenus produits par les versions les plus récentes de ses systèmes. Le dispositif doit également être étendu à des générations issues de modèles plus anciens.

Cette décision intervient alors que les mécanismes de transparence ont surtout été visibles, ces dernières années, dans les images et les vidéos. Les plateformes, les éditeurs de logiciels et les fournisseurs de modèles ont progressivement adopté des étiquettes visibles, des métadonnées ou des standards de provenance pour identifier certains médias synthétiques. Le texte pose un problème d’une autre nature. Il est court ou long, copiable sans perte, modifiable en quelques secondes, reformulable par un humain ou une autre IA, puis traduisible dans une autre langue. Une signature qui permettrait d’identifier son origine doit donc arbitrer entre discrétion, robustesse et fiabilité.

Pour les médias, les entreprises et les autorités de régulation, l’enjeu est considérable. Un filigrane textuel n’établit pas, à lui seul, la véracité d’un contenu, son intention ou l’identité de son auteur. Il peut néanmoins devenir un indice de provenance, utile dans des procédures éditoriales, des politiques internes ou des mécanismes de conformité. L’initiative d’Anthropic ne ferme pas le débat sur la détection des textes d’IA : elle l’ouvre plus frontalement, au moment où les obligations européennes de transparence se rapprochent.

Du marquage des images à la question plus instable du texte

Les contenus générés par intelligence artificielle sont devenus suffisamment crédibles pour que leur seule apparence ne permette plus toujours de déterminer leur origine. Dans l’image, le phénomène est particulièrement visible : des portraits, illustrations, scènes historiques ou visuels de campagne peuvent circuler sans contexte, parfois accompagnés de légendes trompeuses. La vidéo et l’audio posent des risques comparables, notamment lorsque l’apparence ou la voix d’une personne est imitée.

Le secteur technologique a répondu par plusieurs familles d’outils. Certaines approches reposent sur des labels affichés aux utilisateurs. D’autres utilisent des métadonnées attachées au fichier. Le standard C2PA, pour Coalition for Content Provenance and Authenticity, s’inscrit dans cette logique de provenance : il vise à documenter l’historique d’un contenu, notamment sa création et certaines modifications. Des entreprises comme Adobe, Microsoft, OpenAI et Google figurent parmi les acteurs associés à cette coalition.

Ces mécanismes ont une limite évidente : les métadonnées peuvent être supprimées lorsqu’un fichier est capturé, exporté, compressé ou converti. C’est l’une des raisons pour lesquelles les fournisseurs de modèles se sont aussi intéressés aux filigranes intégrés au contenu lui-même. Google DeepMind a par exemple présenté SynthID, une technologie de filigranage pour les images, l’audio, la vidéo et le texte générés par ses outils. Le principe général consiste à introduire un signal détectable sans nécessairement rendre ce signal évident pour un lecteur ou un spectateur.

Dans le cas de l’écrit, le problème devient plus abstrait. Une image contient une très grande quantité de données : couleurs, textures, bruit visuel, contours et compression laissent théoriquement davantage de place à une marque discrète. Un texte est une succession de mots, de caractères et de choix syntaxiques. Changer une virgule, remplacer un adjectif par un synonyme, modifier l’ordre de deux phrases ou traduire un paragraphe peut suffire à altérer les propriétés statistiques sur lesquelles un filigrane est susceptible de reposer.

Le marquage de texte ne doit donc pas être confondu avec une étiquette visible telle que « généré par IA ». Il peut être invisible à la lecture, conçu pour être retrouvé par un outil de détection. À l’inverse, il peut également être exposé dans une interface ou dans un document, à la manière d’une déclaration de provenance. Les deux méthodes ne poursuivent pas exactement le même objectif. Une étiquette visible informe immédiatement un lecteur, mais elle peut disparaître lors d’un copier-coller. Une marque technique peut être plus discrète et mieux intégrée au processus de génération, mais elle exige un mécanisme de vérification et soulève des questions sur sa résistance aux transformations.

La décision annoncée par Anthropic est importante parce qu’elle concerne Claude, une famille de modèles de langage utilisée pour rédiger, résumer, analyser des documents, programmer et assister des tâches professionnelles. Lorsque des systèmes de ce type sont intégrés à des outils de travail, leur production ne reste pas nécessairement dans une conversation identifiable comme telle. Elle peut devenir un courrier, une note, une fiche produit, une réponse au client, une publication ou un extrait de code. La provenance du texte est alors plus difficile à observer que dans une interface de chatbot.

Dans son article, TechCrunch rapporte qu’Anthropic entend watermarker les textes générés par ses modèles d’IA. Le média indique également que le projet doit être étendu à des générations associées à des modèles plus anciens. Cette précision compte : elle suggère que l’entreprise ne présente pas la traçabilité comme une fonctionnalité réservée aux lancements futurs, mais comme un sujet susceptible de concerner plus largement son catalogue et ses usages existants.

Ce qu’Anthropic annonce, et ce que l’annonce ne permet pas encore d’affirmer

Le fait central est simple : Anthropic prévoit d’intégrer un marquage aux textes produits par Claude afin de faciliter l’identification de contenus issus d’une IA générative. La formulation est prudente, et elle doit le rester. L’annonce rapportée par TechCrunch ne justifie pas d’affirmer que chaque texte attribuable à Claude sera toujours identifiable, dans toutes les conditions, ni que le système permettra de remonter à une requête précise, à un utilisateur particulier ou à une version donnée du modèle.

Ces distinctions sont essentielles. Identifier un contenu comme « probablement généré » par un système n’est pas la même chose que prouver son origine de manière définitive. Un filigrane peut produire un signal positif sur un texte intact ou peu modifié, sans que ce résultat survive à toutes les transformations. Il ne remplace pas les journaux techniques d’un fournisseur, les éléments de contexte d’une publication, l’archivage d’un document ou les procédures de vérification éditoriale.

De la même manière, un texte non détecté ne démontre pas qu’il a été écrit par un humain. Il peut provenir d’un autre modèle, d’un système qui ne marque pas ses sorties, d’une version modifiée d’un texte généré, ou d’un processus hybride dans lequel une personne a réécrit une première ébauche. Cette asymétrie est au cœur du débat : la détection peut fournir un indice utile, mais l’absence d’indice ne constitue pas une certification d’authenticité humaine.

Le dispositif annoncé ne doit pas non plus être assimilé à un mécanisme de modération. Il ne bloque pas nécessairement la génération de contenus problématiques et ne vérifie pas leur exactitude. Un texte marqué peut être exact, inexact, utile, banal, malveillant ou entièrement fictif. La fonction du filigrane est liée à la provenance ou à l’identification de la génération automatisée, non à la valeur informationnelle du contenu.

La mention des modèles plus anciens ajoute une difficulté pratique. Les modèles de langage ont été déployés au fil du temps dans des produits, des API et des environnements tiers. Les contenus déjà copiés dans des bases documentaires, envoyés par courriel ou publiés sur le web ne peuvent pas être modifiés rétroactivement. Dès lors, l’extension évoquée par TechCrunch ne doit pas être interprétée comme un marquage a posteriori de tous les textes historiquement produits. Sans précisions techniques supplémentaires de la part d’Anthropic, il faut se limiter à ce que l’entreprise a indiqué : le projet doit aussi couvrir des générations issues de modèles plus anciens.

Le choix de ne pas détailler publiquement, dans les éléments rapportés, le fonctionnement exact de la technologie est compréhensible. Un système de marquage trop explicitement documenté peut être plus facile à contourner. Mais cette opacité a une contrepartie : il est impossible, à ce stade, d’évaluer indépendamment son taux de détection, son taux de faux positifs, sa résistance aux transformations ou les conditions précises dans lesquelles il échoue.

Or ces critères font toute la différence entre une fonctionnalité de transparence utile et un outil susceptible d’être surinterprété. Dans un cadre professionnel ou journalistique, un détecteur qui attribuerait à tort un texte humain à une IA pourrait causer un préjudice réel. Dans un cadre scolaire, il pourrait alimenter des accusations injustifiées. À l’inverse, une marque trop fragile donnerait une impression de sécurité sans offrir de garantie opérationnelle face à des acteurs déterminés.

Le filigrane textuel peut constituer un indice de provenance ; il ne vaut ni preuve universelle d’origine, ni test définitif de vérité.

L’intérêt de l’annonce tient donc moins à la promesse d’un outil infaillible qu’au fait qu’Anthropic place explicitement la traçabilité des sorties textuelles parmi les sujets à traiter dans le déploiement des modèles génératifs. C’est une position qui a des conséquences techniques, mais aussi juridiques et organisationnelles.

Pourquoi le texte est le terrain le plus difficile pour les filigranes

La difficulté fondamentale du texte tient à sa malléabilité. Une photographie peut être recadrée ou retouchée, mais une phrase peut être réécrite de très nombreuses manières tout en conservant la même idée. Les modèles de langage sont précisément conçus pour produire des variantes : résumer, simplifier, développer, adapter un ton, corriger une formulation ou traduire. Chacune de ces opérations modifie la surface linguistique du texte.

Une première menace pour la robustesse d’un filigrane est la réécriture humaine. Un rédacteur peut conserver le plan d’une réponse de Claude tout en changeant les mots, en ajoutant ses propres exemples, en supprimant des passages et en vérifiant les sources. À partir de quel seuil le texte doit-il encore être considéré comme généré par une IA ? La réponse n’est pas seulement technique. Elle dépend aussi de la définition que donnent une entreprise, une rédaction, un établissement scolaire ou un régulateur à la notion de contenu « généré » ou « assisté » par IA.

La paraphrase automatisée est un deuxième défi. Un contenu peut être soumis à un autre modèle avec une instruction aussi simple que « reformule ce texte » ou « rends-le plus naturel ». Il peut être divisé en plusieurs passages, fusionné à des extraits écrits par un humain, puis réorganisé. Si la signature repose sur certains choix de vocabulaire ou de distribution de mots, ces opérations sont susceptibles de l’affaiblir ou de la faire disparaître.

La traduction est un cas particulièrement important pour le marché européen. Un texte rédigé en anglais peut être converti en français, en allemand, en espagnol ou dans de nombreuses autres langues. La traduction ne remplace pas seulement quelques mots : elle transforme l’ordre, la morphologie, les accords, les idiomes et parfois le niveau de précision. Les langues ne présentent pas les mêmes structures syntaxiques ni les mêmes fréquences lexicales. Une méthode qui fonctionne dans une langue peut donc ne pas se comporter de la même façon dans une autre.

Pour la France et la francophonie, ce point est loin d’être théorique. Les usages de l’IA générative traversent fréquemment plusieurs langues : documentation technique en anglais adaptée pour des clients français, contenus commerciaux localisés pour le Québec ou la Belgique, réponses de support traduites, comptes rendus internationaux, veille réglementaire et communications internes. La valeur d’un marquage dépendra en partie de sa capacité à rester pertinent après ces passages linguistiques, ou au moins de la clarté avec laquelle ses limites seront communiquées.

Les textes très courts compliquent encore la détection. Un slogan, un objet de courriel, une réponse de deux lignes ou une publication concise offre peu de matière pour rechercher un signal. Les textes très longs posent un autre problème : ils peuvent être assemblés à partir de sources multiples, générés par étapes ou amendés par plusieurs personnes. Dans ces cas, une détection éventuelle doit être interprétée avec prudence : elle peut ne concerner qu’une partie du document.

Il existe aussi un risque de contournement par des moyens extrêmement simples. Copier un texte dans un logiciel, le dicter puis le retranscrire, le transformer en image avant de le repasser par reconnaissance optique de caractères, ou remplacer systématiquement certains mots sont autant de manipulations envisageables. Les acteurs malveillants les plus motivés ne sont pas nécessairement ceux qui respecteront un mécanisme volontaire de transparence.

C’est pourquoi les filigranes ne peuvent pas être la seule réponse au problème des contenus synthétiques. Ils sont davantage utiles dans un ensemble de mesures : provenance documentée, politiques de publication, signalement des usages d’IA, vérification des faits, modération, éducation aux médias et conservation de preuves techniques lorsque cela est pertinent. Le marquage est une brique ; il n’est pas une infrastructure complète de confiance.

Cette nuance est particulièrement importante face à la tentation des « détecteurs d’IA » généralistes. Plusieurs outils prétendent estimer si un texte a été écrit par une machine, souvent à partir de caractéristiques statistiques. Leur résultat ne doit pas être confondu avec la vérification d’un filigrane émis par le fournisseur lui-même. Le premier cherche à inférer une origine à partir du style ; le second rechercherait une marque volontairement introduite à la génération. Les limites des deux approches ne sont pas identiques, mais aucune ne doit être présentée comme un arbitre absolu de l’auteur réel d’un texte.

Un signal pour les médias, les entreprises et la régulation européenne

Pour les rédactions, la première implication n’est pas de déléguer la vérification à un outil. Elle consiste plutôt à disposer d’un indice supplémentaire lorsqu’un document, un témoignage, une note ou un communiqué soulève un doute sur sa provenance. Dans le travail journalistique, l’origine d’un texte ne suffit jamais à établir un fait. Une fausse information écrite par une personne reste fausse ; une information exacte formulée avec une aide générative peut rester exacte après vérification. Le filigrane ne remplace donc ni le recoupement des sources, ni l’analyse du contexte, ni la responsabilité éditoriale.

Il peut toutefois faciliter certaines politiques de transparence. Une rédaction qui autorise l’IA pour préparer des transcriptions, des résumés ou des propositions de formulation peut chercher à distinguer les étapes automatisées des étapes humaines. Un mécanisme de provenance ne tranche pas à lui seul les choix éthiques, mais il peut rendre plus visible l’intervention d’un modèle dans une chaîne de production. Encore faut-il que l’outil de vérification soit accessible, que ses résultats soient interprétables et que les équipes sachent précisément ce qu’ils signifient.

Dans les entreprises, l’intérêt est d’abord organisationnel. Les assistants de rédaction sont utilisés pour produire des comptes rendus, préparer des réponses clients, résumer des réunions ou créer des contenus de communication. Certaines de ces productions restent internes ; d’autres sont envoyées à des partenaires ou au public. Le marquage pourrait aider une organisation à identifier certains contenus issus d’un flux automatisé, à condition qu’elle définisse au préalable pourquoi cette information est nécessaire et qui peut y accéder.

Une entreprise ne peut cependant pas tirer de conclusion excessive d’un résultat technique. Un texte peut être généré par Claude puis profondément revu par un salarié compétent. Il peut aussi être écrit sans IA, mais comporter le style très normé souvent associé aux modèles de langage. Dans les deux cas, le pilotage des risques exige des règles plus larges : contrôle humain pour les communications sensibles, protection des données, validation juridique lorsque nécessaire, politique claire sur les outils autorisés et conservation de la traçabilité interne lorsque celle-ci est requise.

La dimension réglementaire donne une portée particulière à l’annonce. Le règlement européen sur l’intelligence artificielle, souvent appelé AI Act, prévoit des obligations de transparence pour certains systèmes générant du contenu synthétique. Son article 50 vise notamment les fournisseurs de systèmes d’IA, y compris de modèles d’IA à usage général, qui génèrent des contenus synthétiques audio, image, vidéo ou texte. Le texte prévoit que les sorties soient marquées dans un format lisible par machine et détectable comme ayant été générées ou manipulées artificiellement, selon des solutions techniquement réalisables, efficaces, interopérables, robustes et fiables.

Ces dispositions illustrent le fossé entre l’objectif réglementaire et la réalité technique. Le législateur européen ne demande pas seulement une mention cosmétique. Il insiste sur des propriétés difficiles à réunir simultanément : interopérabilité entre services, détection, robustesse et fiabilité. La mise en œuvre doit tenir compte de l’état de l’art et des particularités des contenus. Le texte génératif, parce qu’il est facilement transformable, est probablement l’un des domaines où cet équilibre sera le plus difficile à démontrer.

Les obligations de l’article 50 sont appelées à s’appliquer à partir du 2 août 2026. Pour les entreprises qui commercialisent ou utilisent des systèmes génératifs en Europe, la période qui précède cette date est donc celle des choix d’architecture, des procédures internes et des interprétations juridiques. L’initiative d’Anthropic s’inscrit dans un mouvement plus large : les fournisseurs de modèles doivent préparer des mécanismes de transparence tout en évitant de promettre une capacité de détection universelle qu’aucune technique ne peut raisonnablement garantir dans tous les cas.

Il faut également distinguer les responsabilités. Le fournisseur d’un modèle peut marquer une sortie au moment de sa génération. Mais il ne contrôle pas forcément le service tiers qui appelle son API, l’utilisateur qui copie le texte, l’éditeur qui le publie ou la personne qui le transforme. La chaîne de responsabilité est fragmentée. C’est précisément pourquoi une norme de provenance utile devra s’accompagner de pratiques d’utilisation, de documentation et de règles de présentation au public.

• Pour les fournisseurs : concevoir des signaux détectables sans surpromettre leur résistance aux modifications.
• Pour les intégrateurs : conserver, lorsque cela est justifié, le contexte d’usage et informer les utilisateurs des limites de l’outil.
• Pour les organisations : ne pas traiter une détection comme une preuve automatique de faute ou de fraude.
• Pour les éditeurs : continuer à vérifier les affirmations factuelles indépendamment de l’origine supposée du texte.
• Pour les régulateurs : préciser les méthodes d’évaluation de la robustesse et de l’interopérabilité.

Une concurrence de méthodes, plus qu’une solution déjà stabilisée

Anthropic n’est pas le premier acteur à s’intéresser à la provenance des contenus générés. Google DeepMind a déjà positionné SynthID comme une technologie de filigranage couvrant plusieurs formats, dont le texte. OpenAI a de son côté publié en 2024 un document de recherche sur le filigranage textuel, en soulignant les bénéfices potentiels de la méthode mais aussi ses limites et ses arbitrages. L’existence de ces travaux montre que le sujet est ancien à l’échelle rapide de l’IA générative, sans pour autant être résolu.

Les annonces des grands acteurs diffèrent souvent par leur périmètre. Certains se concentrent sur les médias visuels, où la provenance peut être présentée avec un label dans une interface. D’autres explorent la génération textuelle, dont les usages sont massifs mais moins visibles. Certains mécanismes sont liés à un modèle précis ; d’autres visent des formats de provenance qui pourraient circuler entre logiciels. Le résultat est un paysage fragmenté, où un signal détectable chez un fournisseur ne sera pas automatiquement compris par les outils d’un autre.

L’enjeu de l’interopérabilité sera particulièrement déterminant en Europe. Une entreprise française peut utiliser un modèle américain dans un logiciel européen, publier sur une plateforme internationale, puis faire réviser le contenu par un prestataire situé dans un autre pays. Si chaque maillon applique une méthode propriétaire, l’information de provenance risque de se perdre ou de devenir incompréhensible. À l’inverse, un standard unique imposé trop tôt pourrait figer des solutions encore immatures.

La décision d’Anthropic donne aussi du poids à une approche qui ne repose pas uniquement sur l’affichage volontaire d’un label. Dans beaucoup d’usages, le texte quitte rapidement l’interface qui l’a produit. Il devient un document autonome, copié dans un traitement de texte, une messagerie, un outil de gestion de projet ou un système de publication. Une marque pouvant être recherchée après cette sortie répond à une question distincte : non pas « l’utilisateur voit-il un avertissement ? », mais « existe-t-il encore un moyen de reconnaître une génération automatisée ? »

Cette ambition a néanmoins une contrepartie. Plus le signal est discret, plus les acteurs externes doivent pouvoir le contrôler de manière fiable. Qui disposera des outils de détection ? Seront-ils ouverts à des chercheurs, à des plateformes, à des rédactions ou aux autorités compétentes ? Comment seront gérés les désaccords lorsqu’un outil détecte une marque sur un contenu litigieux ? Les éléments rapportés par TechCrunch ne permettent pas de répondre à ces questions. Elles détermineront pourtant la portée pratique de la technologie.

Le marché francophone aura ses propres contraintes. Les outils de gouvernance de l’IA doivent être utilisables dans des environnements multilingues et par des organisations de tailles très différentes. Une grande banque, une administration, une agence de communication et une petite rédaction locale n’auront ni les mêmes ressources ni les mêmes risques. Si la vérification dépend de services complexes ou de procédures opaques, son adoption restera limitée. Si elle est trop simplifiée, elle pourra être mal utilisée.

La valeur d’un filigrane dépendra aussi de la communication faite autour de lui. Présenter la technologie comme un moyen de « prouver » qu’un texte a été produit par IA serait trompeur si elle échoue après certaines modifications ou si sa portée est limitée à certaines sorties. À l’inverse, la présenter comme un simple détail technique minimiserait son intérêt potentiel dans des procédures de transparence. Le bon niveau d’information consiste à expliquer ce que le mécanisme détecte, dans quelles conditions, et ce qu’il ne peut pas établir.

Vers une traçabilité graduée plutôt qu’un détecteur universel

Le tournant engagé par Anthropic est moins celui d’une résolution définitive que d’une normalisation progressive de la question de provenance. Pendant longtemps, les débats publics sur les modèles de langage ont surtout porté sur leurs capacités : qualité rédactionnelle, raisonnement, programmation, recherche documentaire ou assistance conversationnelle. À mesure que ces outils s’intègrent dans les flux de travail, une autre question gagne en importance : comment documenter l’intervention d’une IA sans nier la part de transformation humaine qui suit souvent la première génération ?

Le texte oblige à abandonner les catégories trop simples. Entre un document entièrement produit par un modèle et un document entièrement rédigé sans assistance, il existe une vaste zone intermédiaire : plan suggéré, reformulation, correction grammaticale, traduction, résumé, enrichissement, extraction de données ou génération d’une première version ensuite réécrite. Une politique de transparence crédible devra pouvoir distinguer ces degrés d’intervention, plutôt que de réduire tous les usages à une opposition binaire.

Dans ce contexte, le marquage annoncé par Anthropic peut devenir utile s’il est pensé comme un élément parmi plusieurs. Il peut aider à reconnaître certaines sorties natives de Claude, notamment avant qu’elles soient substantiellement transformées. Il peut inciter les intégrateurs à mieux documenter leurs chaînes de génération. Il peut enfin contribuer aux discussions sur les modalités concrètes des exigences européennes de transparence. Mais son efficacité dépendra de détails qui ne sont pas établis dans l’annonce : robustesse face aux modifications, disponibilité des moyens de détection, fonctionnement selon les langues et gouvernance des résultats.

La question des réécritures et des traductions restera centrale. Elle ne relève pas d’une faiblesse accidentelle, mais de la nature même du langage. Un texte est fait pour être transmis, adapté, cité, corrigé et traduit. Les usages légitimes qui rendent l’écrit vivant sont aussi ceux qui compliquent la persistance d’une signature technique. Attendre d’un filigrane qu’il résiste indéfiniment à toutes ces transformations reviendrait à lui demander de résoudre une contradiction structurelle.

La trajectoire la plus plausible est donc celle d’une traçabilité graduée : marque technique à la génération lorsque c’est possible, métadonnées ou attestations de provenance lorsque le format le permet, déclarations visibles dans les contextes où le public doit être informé, et contrôles humains pour les décisions sensibles. Les fournisseurs de modèles comme Anthropic seront jugés non seulement sur leur capacité à insérer un signal, mais sur la manière dont ils décriront honnêtement ses limites.

Pour les acteurs français et européens, l’enjeu n’est pas de choisir entre confiance aveugle dans les détecteurs et abandon de toute traçabilité. Il est de construire des pratiques capables de résister à l’ambiguïté : accepter qu’un texte puisse être partiellement assisté, qu’une marque puisse être informative sans être décisive, et que la transparence demeure une responsabilité partagée entre le modèle, l’outil qui l’intègre, l’organisation qui l’emploie et l’éditeur qui diffuse le contenu. L’annonce d’Anthropic place cette responsabilité au cœur du cycle de génération ; la prochaine étape consistera à vérifier si cette promesse technique peut devenir un standard réellement exploitable dans le monde multilingue, fragmenté et continuellement réécrit du texte en ligne.