OpenAI prévoit d’intégrer un marquage invisible, lisible par machine, à certains textes générés par ChatGPT et Codex pour les utilisateurs situés dans l’Union européenne. Ce signal doit aider à identifier des contenus issus de ses services, sans garantir la détection de toutes les manipulations.
Dans sa note « Our approach to EU text provenance rules », l’entreprise présente cette mesure comme une réponse aux exigences européennes de provenance et de transparence applicables aux contenus générés par intelligence artificielle.
Un indice de provenance, pas une preuve absolue
Le dispositif repose sur un filigrane intégré au texte, mais non visible à la lecture. OpenAI indique que des outils adaptés pourront le détecter afin de signaler qu’un passage provient de certains de ses modèles ou services.
La mesure ne signifie pas que chaque texte en ligne pourra être automatiquement étiqueté, ni que tous les usages des modèles seront couverts. Pour les éditeurs, les plateformes, les équipes de modération ou les chercheurs, elle peut fournir un indice supplémentaire lors de l’examen d’un contenu.
OpenAI souligne toutefois que le marquage peut devenir plus difficile à détecter lorsqu’un texte est substantiellement modifié. Une réécriture, une traduction, un découpage, l’ajout de passages humains ou un changement de style peuvent donc en réduire l’utilité.
L’absence de signal ne permet pas, à elle seule, de conclure qu’un contenu n’a pas été généré par IA. Sa détection constitue un élément de provenance à examiner, et non un détecteur universel de désinformation.
Accès d’abord réservé aux chercheurs
OpenAI prévoit de commencer par donner accès à ses outils de détection à des chercheurs. L’entreprise envisage une ouverture plus large par la suite, sans préciser les publics concernés ni les critères d’accès.
Les conditions d’accès, l’interopérabilité avec les outils existants et les performances sur des textes très retouchés restent donc à préciser. Le marquage améliore la traçabilité à la source, mais ne remplace ni la vérification journalistique, ni la modération, ni l’analyse du contexte de diffusion.
Commentaires · 2 commentaires
-
Le terme « filigrane invisible » mérite une précision technique : parle-t-on d’un marquage statistique détectable dans la distribution des mots, ou d’une métadonnée associée au texte ? J’aimerais aussi connaître le taux de faux positifs et la robustesse annoncée après paraphrase, traduction ou simple réécriture.
-
Ce sont justement les éléments à vérifier dans une documentation technique ou auprès d’OpenAI : un filigrane textuel n’est utile que si sa méthode de détection, ses limites et ses marges d’erreur sont publiées. Sans ces détails, il serait prudent de le considérer comme un indice d’origine possible, plutôt que comme une preuve absolue.
-