Le Minnesota peut bannir les applis IA de déshabillage

Au Minnesota, un premier revers judiciaire pour xAI face aux applications de « nudify »

Le Minnesota peut poursuivre l’entrée en vigueur de sa loi visant les applications dites de « nudify », après le rejet par un juge de la demande de xAI visant à en bloquer l’application. L’information, rapportée par TechCrunch dans un article intitulé “Judge denies xAI’s request to block Minnesota ban on ‘nudify’ apps”, constitue un revers procédural important pour l’entreprise d’intelligence artificielle fondée par Elon Musk.

Le contentieux porte sur une catégorie très particulière de services : ceux qui permettent de partir d’une photographie ordinaire d’une personne, souvent habillée, pour produire une image synthétique la montrant dénudée ou dans une situation intime. Ces outils, communément désignés par le terme de « nudify », reposent sur des techniques de génération et de modification d’images. Ils ne reproduisent pas nécessairement un événement réel, mais peuvent créer un résultat suffisamment crédible pour être confondu avec une photographie authentique, ou utilisé comme tel contre la personne représentée.

Le point central de la loi du Minnesota est donc l’absence de consentement. Elle ne se limite pas à la question de savoir si une image est fabriquée par une IA : elle cible des services capables de générer des représentations intimes non consenties à partir de photos banales. Cette distinction est fondamentale dans le débat réglementaire actuel. Les deepfakes, au sens large, peuvent servir à la satire, à l’art, au cinéma, à l’éducation, à la publicité ou à la désinformation. Les deepfakes sexuels non consentis posent, eux, un problème immédiatement lié à l’atteinte à la vie privée, à la dignité, à la réputation et à la sécurité des victimes.

xAI avait soutenu que cette interdiction soulevait une question de liberté d’expression. L’entreprise a demandé que le texte soit suspendu avant son application. Le juge a refusé cette demande, ce qui signifie que la loi peut entrer en vigueur pendant que le litige suit son cours. Cette décision ne clôt pas nécessairement tous les débats constitutionnels sur le fond, mais elle prive xAI du gel immédiat qu’elle recherchait.

Le dossier dépasse largement le cadre local. Aux États-Unis, les législateurs fédéraux et ceux des États cherchent depuis plusieurs années à répondre à la multiplication des contenus intimes non consentis, y compris lorsque ceux-ci sont produits ou altérés par des systèmes d’IA. La particularité de l’initiative du Minnesota tient à son angle : au lieu de s’intéresser seulement à la diffusion d’une image illicite une fois qu’elle existe, elle vise les services qui mettent à disposition la capacité de produire ce type de contenu.

C’est précisément cette logique qui place l’affaire xAI au croisement de trois questions majeures. La première est technique : à quel moment un modèle généraliste de génération d’images devient-il un outil de création de faux contenus sexuels ? La deuxième est économique : qui doit porter la responsabilité lorsque des fonctions de génération sont intégrées dans des produits utilisés par des millions de personnes ? La troisième est constitutionnelle : jusqu’où un État peut-il restreindre un outil logiciel sans porter une atteinte disproportionnée à la liberté d’expression invoquée par son éditeur ou ses utilisateurs ?

Dans l’immédiat, la décision rapportée par TechCrunch envoie un signal clair. Les entreprises de l’IA ne peuvent pas présumer que l’argument de l’expression protégée suffira, à lui seul, à obtenir la suspension d’une loi lorsqu’elle vise spécifiquement les images intimes non consenties. Pour les victimes, cette approche ouvre la perspective d’une intervention plus précoce dans la chaîne de production des contenus. Pour les plateformes et les fournisseurs de modèles, elle rend plus pressante la question des garde-fous techniques, des politiques d’usage et de la géolocalisation réglementaire de leurs services.

Une loi conçue pour s’attaquer à la fabrication, pas seulement à la circulation des images

Les politiques publiques contre les images intimes non consenties se sont longtemps concentrées sur leur publication ou leur partage. Cette approche répond à un problème ancien, souvent qualifié de « revenge porn », même si cette expression ne couvre pas toutes les situations : l’auteur peut être un ancien partenaire, mais aussi un camarade, un harceleur, une personne inconnue ou un réseau organisé. Avec l’IA générative, un changement décisif est intervenu : il n’est plus nécessaire d’avoir accès à une photographie intime authentique pour nuire à quelqu’un.

Une image publiée sur un réseau social, une photographie de profil, une photo prise dans un cadre scolaire ou professionnel, voire une image extraite d’une vidéo, peut suffire comme matériau de départ. L’IA générative peut ensuite produire une représentation sexualisée fictive. La cible est réelle, mais la scène ne l’est pas. Or les conséquences sociales peuvent être très réelles : humiliation, harcèlement, extorsion, menaces, rupture de liens professionnels ou personnels, et difficulté à faire retirer des copies qui circulent sur plusieurs services.

Le texte du Minnesota s’inscrit dans ce constat. Comme le résume TechCrunch, il vise les services capables de générer des images intimes non consenties à partir de photographies ordinaires. La loi cherche ainsi à réguler les applications de « nudify » en amont de la publication. Ce déplacement est significatif : plutôt que de demander exclusivement à une victime de signaler les contenus après coup, le législateur s’intéresse à l’offre technologique qui rend leur création accessible.

Cette stratégie soulève toutefois une difficulté de définition. Les technologies de génération d’images ne sont pas, par nature, réservées à la production de contenus sexuels. Un même ensemble de méthodes peut être utilisé pour retoucher un portrait, modifier un vêtement dans une image de mode, créer un personnage de fiction, réaliser un montage humoristique ou générer des scènes entièrement imaginaires. Une loi ciblant les « nudify apps » doit donc être suffisamment précise pour atteindre les outils conçus ou proposés pour déshabiller des personnes sans consentement, sans assimiler indistinctement toute création visuelle assistée par IA à un risque illicite.

Cette précision importe également pour les développeurs. Certaines entreprises fournissent des modèles fondamentaux, d’autres exploitent des interfaces grand public, d’autres encore proposent des API que des services tiers peuvent intégrer à leurs propres applications. La responsabilité pratique peut différer selon le niveau de contrôle exercé sur l’expérience utilisateur. Un opérateur qui promeut explicitement une fonction de déshabillage n’est pas dans la même situation qu’un fournisseur de technologie généraliste qui impose des restrictions contractuelles mais ne contrôle pas toutes les interfaces construites par ses clients. Les régulateurs devront, dans de nombreux cas, établir cette frontière.

La contestation de xAI illustre cette tension. Une entreprise qui développe des produits d’IA peut soutenir que ses outils ont de nombreuses utilisations licites et expressives, et qu’une restriction trop large risque de viser des capacités générales plutôt qu’un comportement dommageable précisément identifié. À l’inverse, les défenseurs de la loi peuvent faire valoir que l’objet du texte n’est pas de prohiber l’IA générative dans son ensemble, mais de limiter la mise à disposition de services adaptés à la génération d’images intimes non consenties.

Le refus de suspendre la loi ne tranche pas mécaniquement chaque cas futur. Il signifie en revanche que, à ce stade de la procédure, la contestation de xAI n’a pas conduit le tribunal à empêcher l’application du texte. C’est un élément important pour les entreprises qui suivent le dossier : l’incertitude juridique ne les dispense pas d’anticiper les obligations locales, surtout lorsque leurs produits s’adressent directement au grand public.

Cette question de l’anticipation est d’autant plus sensible que les applications de « nudify » peuvent être distribuées rapidement. Elles peuvent prendre la forme de sites web, de bots de messagerie, de services accessibles via des réseaux sociaux ou d’applications mobiles. Elles peuvent aussi changer de nom, d’hébergement ou de domaine. Une norme qui ne viserait que la suppression de contenus après diffusion se heurte à la vitesse de reproduction numérique. La réponse du Minnesota tente de réduire ce décalage en traitant l’accès à l’outil comme un enjeu réglementaire propre.

Pour les victimes, cette évolution a une portée concrète. Les procédures de retrait restent essentielles, mais elles interviennent souvent après que l’image a été vue, copiée ou enregistrée. Une régulation de la capacité de génération ne garantit pas la disparition du phénomène, notamment parce que les modèles peuvent être diffusés de manière décentralisée ou opérés depuis d’autres juridictions. Elle peut néanmoins augmenter le coût juridique et opérationnel de services qui font de la création de faux nus leur proposition commerciale.

Liberté d’expression et préjudice : le cœur du conflit juridique américain

L’argument de xAI fondé sur la liberté d’expression place l’affaire dans une tradition juridique américaine très structurante. Aux États-Unis, les contenus créés par ordinateur, les œuvres artistiques, les logiciels et certaines formes de communication peuvent relever de protections constitutionnelles. Mais ces protections ne rendent pas toute restriction impossible. Les juridictions examinent notamment la formulation de la loi, le type de conduite visé, l’existence d’un intérêt public important et la portée effective de la mesure.

Les images intimes non consenties constituent un terrain particulièrement difficile, parce qu’elles mélangent plusieurs dimensions. Il peut s’agir d’une image, donc d’une forme de représentation. Mais cette représentation peut aussi être l’instrument d’une atteinte ciblée contre une personne identifiable. Lorsque l’IA permet de créer artificiellement une image sexuelle attribuée à quelqu’un qui n’a jamais posé nu, le débat ne porte pas seulement sur la véracité de l’image. Il porte sur le fait que la personne est placée, contre sa volonté, dans une situation sexuelle fabriquée et potentiellement diffusée.

Les opposants à des interdictions étendues craignent qu’une réglementation mal rédigée réduise l’espace de la parodie, de la création ou de l’expérimentation technologique. Les partisans de lois ciblées répondent que l’existence d’usages légitimes de l’IA ne doit pas servir de bouclier à des produits dont la finalité ou le mode de commercialisation est la sexualisation non consentie de personnes réelles. Toute la difficulté est là : identifier l’outil, l’usage ou la fonctionnalité qui justifie une intervention, sans faire basculer la loi vers une interdiction générale de l’image synthétique.

Le Minnesota offre un exemple concret de cette confrontation. La loi y cible les services de « nudify » plutôt que les deepfakes dans leur ensemble. Cette orientation est politiquement et juridiquement plus étroite qu’un texte visant toute manipulation visuelle. Elle reflète aussi une réalité : le préjudice associé aux faux contenus intimes est particulièrement documenté et peut toucher des adultes comme des mineurs, avec des effets graves sur la santé mentale, la scolarité, l’emploi ou la sécurité personnelle.

Le litige engagé par xAI rappelle toutefois que la rédaction législative sera déterminante. Les entreprises examinent notamment les termes employés pour définir une image intime, la façon dont la loi décrit le consentement, le degré de connaissance exigé de l’opérateur, les exceptions éventuelles, les sanctions et le champ territorial. Dans un environnement numérique, la compétence territoriale est elle-même complexe : une entreprise peut être établie dans un État, héberger ses services ailleurs et desservir des utilisateurs dans l’ensemble du pays.

Le refus de la demande de xAI doit aussi être replacé dans la procédure. Une demande de suspension cherche à obtenir une protection immédiate avant une décision définitive sur le fond. Lorsqu’un juge rejette une telle demande, la loi peut s’appliquer, mais le débat juridique peut continuer. Il serait donc prématuré de présenter cette étape comme une validation définitive et exhaustive de tous les aspects de la législation. En revanche, pour les acteurs du secteur, l’effet immédiat est tangible : ils ne peuvent pas compter sur une suspension judiciaire pour différer les adaptations nécessaires.

L’affaire survient dans un contexte fédéral en évolution. Aux États-Unis, le TAKE IT DOWN Act, promulgué en 2025, vise la publication non consentie d’images intimes, y compris lorsqu’elles sont créées par l’IA, et prévoit des obligations de retrait pour certaines plateformes couvertes après notification. Ce cadre fédéral répond principalement à la mise en ligne et à la circulation des contenus. La démarche du Minnesota est différente en ce qu’elle s’intéresse à la disponibilité des technologies de génération elles-mêmes.

Les deux approches ne s’excluent pas. La première cherche à réduire la persistance et la visibilité d’un contenu après sa diffusion ; la seconde cherche à limiter l’accès à certains mécanismes de fabrication. Mais leur coexistence montre que la réponse juridique américaine devient plus fragmentée. Une entreprise peut devoir tenir compte d’une règle fédérale sur les retraits, de règles d’États sur les images intimes, de règles distinctes sur la fraude, l’usurpation d’identité ou la protection des mineurs, ainsi que des exigences de ses magasins d’applications et partenaires de paiement.

Pour les grandes entreprises d’IA, ce morcellement augmente la pression en faveur de dispositifs de conformité réutilisables. Il peut s’agir de règles d’usage explicites, de limitations intégrées dans les interfaces, de mécanismes de signalement, de procédures de réaction rapide ou de contrôles portant sur les requêtes et les résultats. Aucune de ces mesures n’est une garantie absolue, surtout face aux modèles ouverts ou aux services opérés hors de portée immédiate des autorités. Elles deviennent néanmoins un élément de plus en plus central de la responsabilité attendue des éditeurs.

Du modèle génératif à la plateforme : une responsabilité qui remonte la chaîne technique

L’essor des générateurs d’images a transformé la question des deepfakes sexuels. Il y a quelques années, la création de montages réalistes nécessitait souvent des compétences en retouche, du temps, des images de référence et des logiciels spécialisés. Les progrès des modèles de diffusion et des interfaces conversationnelles ont diminué ces barrières. L’utilisateur peut désormais attendre d’un service qu’il interprète une consigne en langage naturel, transforme une image importée ou réalise une modification à partir d’un petit nombre d’instructions.

Cette baisse de friction est un facteur central dans l’attention portée aux applications de « nudify ». Le risque ne réside pas uniquement dans la capacité théorique d’un algorithme à produire une image. Il dépend de l’accessibilité du produit, de la simplicité du parcours utilisateur, de la possibilité de traiter des photos de personnes réelles et de l’absence ou de l’inefficacité des protections. Un service peut être techniquement sophistiqué tout en étant difficile à utiliser ; à l’inverse, une interface très simple peut industrialiser un usage malveillant.

La décision du Minnesota pose ainsi une question de gouvernance technologique : à quel niveau faut-il agir ? Les opérateurs d’applications directement destinées au « nudify » sont les cibles les plus évidentes. Mais les modèles et infrastructures qui se trouvent en amont peuvent également être interrogés, particulièrement si leurs outils sont déployés dans des interfaces que l’entreprise contrôle. Les boutiques d’applications, les hébergeurs, les réseaux sociaux, les services de paiement et les fournisseurs de publicité peuvent aussi devenir des points de contrôle, selon les cadres juridiques applicables et leurs propres politiques.

Il faut néanmoins éviter de confondre responsabilité et omnipotence. Les fournisseurs de modèles ne contrôlent pas toujours les usages ultérieurs de leurs technologies, notamment lorsqu’un modèle est téléchargé, modifié ou exécuté localement. Les filtres automatisés peuvent produire des erreurs. Les systèmes de détection peuvent être contournés. Une photographie manipulée peut être réencodée, recadrée ou légèrement modifiée afin de compliquer son identification. La régulation n’élimine donc pas le besoin de prévention, d’éducation, de soutien aux victimes et de coopération entre services.

Dans ce cadre, les politiques de produit prennent une dimension juridique. Une entreprise qui interdit explicitement la création de contenus sexuels non consentis dans ses conditions d’utilisation ne règle pas automatiquement le problème. Il faut encore savoir comment elle applique cette règle, quelles fonctionnalités sont disponibles, comment les utilisateurs peuvent signaler un abus et comment elle traite les récidives. Les autorités et les tribunaux peuvent être conduits à examiner non seulement les principes affichés, mais les choix opérationnels qui rendent un comportement plus ou moins facile.

La confrontation entre xAI et le Minnesota intervient aussi alors que les entreprises du secteur cherchent à affirmer que leurs outils sont polyvalents. Cette polyvalence est réelle : les modèles génératifs peuvent servir à la création graphique, au prototypage, au divertissement ou à des usages professionnels. Mais plus un produit est diffusé auprès du public, plus les entreprises doivent répondre à une question simple : quelles capacités ont été prévues pour empêcher qu’un outil visuel serve à fabriquer une atteinte intime ciblée ?

La réponse ne peut pas reposer exclusivement sur la modération a posteriori. Dans le cas d’une application de « nudify », le dommage peut être produit au moment même de la génération, avant toute publication publique. L’image peut être envoyée directement à la victime, utilisée pour faire pression sur elle ou partagée dans un groupe fermé. Les règles de retrait sont alors indispensables, mais elles interviennent après l’existence du fichier. C’est ce qui explique l’intérêt des législateurs pour les mécanismes de prévention intégrés à l’accès au service.

Pour le marché, cette évolution peut accentuer la séparation entre deux modèles. D’un côté, des services généralistes, dont les éditeurs investissent dans des politiques de sûreté et cherchent à pouvoir démontrer des efforts de prévention. De l’autre, des services qui se présentent explicitement comme des outils de déshabillage et dont la valeur commerciale est liée à la suppression de ces freins. La loi du Minnesota vise directement le second cas, mais le contentieux autour de xAI montre que la ligne de séparation devra être testée dans les faits et, probablement, dans d’autres juridictions.

Ce que ce précédent américain implique pour la France et l’Europe

La décision du Minnesota ne s’applique pas en France ni dans l’Union européenne. Elle est néanmoins suivie avec attention, car elle illustre une orientation que l’on retrouve de part et d’autre de l’Atlantique : les contenus synthétiques ne sont plus seulement traités comme un enjeu abstrait de désinformation, mais comme un risque concret pour les personnes dont l’image ou la voix est exploitée sans consentement.

En Europe, le règlement sur l’intelligence artificielle, l’AI Act, contient des exigences de transparence pour certains contenus générés ou manipulés par IA, y compris les deepfakes. Ces obligations de transparence doivent s’appliquer à compter d’août 2026. Elles reposent sur une logique différente de celle du Minnesota : il s’agit notamment de permettre d’indiquer qu’un contenu a été généré ou manipulé artificiellement. Une telle indication peut améliorer l’information du public, mais elle ne répond pas à elle seule au problème d’une image sexuelle créée sans autorisation. Un contenu peut être clairement étiqueté comme synthétique tout en restant gravement attentatoire à la personne visée.

Le droit européen de la protection des données, les règles relatives aux plateformes et les législations pénales nationales peuvent également être mobilisés selon les circonstances. En France, la diffusion d’images intimes sans le consentement de la personne est déjà réprimée. La loi visant à sécuriser et réguler l’espace numérique, promulguée en 2024, a par ailleurs créé une incrimination liée à la diffusion d’images ou de sons générés par algorithme sans le consentement de la personne représentée ou entendue, lorsqu’ils sont présentés sans mention de leur caractère artificiel et qu’ils sont susceptibles de lui causer un préjudice.

Le cadre français répond donc déjà en partie au sujet des contenus artificiels préjudiciables. Mais la comparaison avec le Minnesota met en lumière une différence de méthode. Une grande partie des règles existantes porte sur la diffusion, la présentation trompeuse ou le préjudice causé par un contenu. Le texte américain discuté dans l’affaire xAI s’intéresse plus directement à la mise à disposition de certaines applications capables de produire des images intimes non consenties.

Pour les entreprises présentes en France et en Europe, la leçon n’est pas qu’un modèle américain serait automatiquement transposable. Les traditions juridiques, les compétences des autorités et les textes applicables diffèrent. En revanche, les produits circulent mondialement. Une application accessible en ligne peut être téléchargée dans plusieurs pays, recevoir des paiements par des services internationaux et héberger ses données hors de l’Union européenne. Les acteurs qui conçoivent des outils de génération visuelle doivent donc anticiper des exigences hétérogènes, et pas seulement vérifier la légalité dans leur pays d’origine.

Le cas du Minnesota pourrait aussi nourrir la réflexion européenne sur la prévention. La transparence des deepfakes est utile dans des contextes électoraux, médiatiques ou publicitaires. Pour les faux nus, l’enjeu est plus immédiat : empêcher une génération abusive, permettre un signalement rapide, préserver des preuves, retirer les copies et accompagner les victimes. Les législateurs devront décider si les règles générales sur les contenus illicites et les données personnelles suffisent, ou si des obligations plus spécifiques pour les fournisseurs d’outils sont nécessaires.

À long terme, le contentieux entre xAI et le Minnesota pourrait servir de point de référence dans la définition d’une frontière réglementaire plus nette. Si les juridictions américaines admettent durablement que des restrictions ciblées sur les services de « nudify » peuvent coexister avec les protections de la liberté d’expression, d’autres États pourraient adopter des textes comparables. Les entreprises seraient alors incitées à concevoir des garde-fous mondiaux plutôt qu’à multiplier les adaptations locales.

Cette perspective ne signifie pas que le débat est clos. Les oppositions entre innovation, expression et protection des personnes vont s’intensifier à mesure que les outils génératifs deviennent plus performants, plus rapides et plus intégrés aux services grand public. Mais le refus de suspendre la loi du Minnesota montre déjà que l’argument technologique ne peut plus être séparé de ses usages sociaux. Dans le domaine des deepfakes sexuels, la question qui se pose aux plateformes n’est plus seulement de savoir ce que leurs modèles peuvent produire : elle est de savoir quelles capacités elles choisissent de rendre disponibles, à qui, et sous quelles responsabilités.