OpenAI réclame une loi californienne sur l’IA plus stricte

OpenAI se repositionne dans le débat californien sur l’IA

OpenAI appelle désormais la Californie à renforcer le projet de loi SB 53, consacré à la sécurité et à la transparence des systèmes d’intelligence artificielle les plus avancés. L’information, rapportée par TechCrunch dans son article “OpenAI says California should strengthen its AI safety bill”, marque une évolution significative dans le positionnement politique de l’entreprise à l’origine de ChatGPT.

Le point central n’est pas seulement qu’OpenAI accepte l’idée d’un cadre réglementaire. L’entreprise estime, selon TechCrunch, que le texte californien devrait aller plus loin sur certaines obligations applicables aux développeurs de modèles de pointe. Cette prise de position intervient alors que les entreprises d’IA, les élus et les autorités fédérales américaines s’opposent depuis plusieurs années sur une question structurante : qui doit fixer les règles de sécurité pour les modèles capables de produire du texte, du code, des images, de l’audio ou d’accomplir des tâches de plus en plus complexes ?

La Californie occupe une place particulière dans cette confrontation. L’État abrite une grande partie des laboratoires les plus influents du secteur, parmi lesquels OpenAI, Google, Anthropic, Meta ou encore de nombreuses jeunes pousses spécialisées. Les choix effectués à Sacramento peuvent donc avoir une portée dépassant largement les frontières californiennes. Une obligation de publication, de documentation ou de signalement imposée à des développeurs présents dans l’État peut rapidement devenir une référence de fait pour l’ensemble du marché américain, voire international.

SB 53 s’inscrit précisément dans cette logique. Le texte vise les développeurs de systèmes d’IA dits frontières, c’est-à-dire les modèles les plus avancés, dont les capacités et les usages potentiels soulèvent des interrogations spécifiques en matière de sûreté, de cybersécurité, de contrôle des risques et de transparence. Le débat ne porte donc pas sur l’ensemble des logiciels utilisant de l’IA, ni sur chaque application intégrant un assistant conversationnel. Il concerne avant tout les acteurs qui entraînent et déploient les modèles généralistes les plus puissants.

Dans le récit proposé par TechCrunch, le soutien d’OpenAI à un renforcement de SB 53 constitue un revirement politique notable. L’entreprise avait auparavant exprimé son opposition à un texte californien plus contraignant sur la sécurité de l’IA. Ce précédent est important : il rappelle qu’OpenAI a longtemps défendu l’idée qu’une réglementation trop prescriptive, décidée au niveau d’un seul État, pouvait fragmenter le cadre juridique américain et compliquer l’innovation.

Le changement de ton ne signifie pas nécessairement qu’OpenAI renonce à cette préoccupation. Il montre plutôt que la discussion s’est déplacée. La question n’est plus seulement de savoir s’il faut réguler les modèles frontières, mais de déterminer quelle forme de régulation convient, quelles informations doivent être communiquées, quelles procédures de sécurité doivent être formalisées et quelle autorité doit être chargée d’en surveiller l’application.

Cette nuance est décisive. Pour les grands laboratoires, un cadre légal peut représenter un coût : production de documents techniques, procédures internes, évaluations, obligations de notification, risques de contentieux et exposition accrue à l’examen public. Mais il peut aussi créer un environnement plus prévisible. Une entreprise qui dispose déjà d’équipes juridiques, de responsables de la sûreté, de spécialistes des politiques publiques et de moyens importants peut plus facilement absorber ces obligations qu’un concurrent plus petit.

Le rôle croissant des acteurs privés dans l’élaboration des règles est donc au cœur de l’affaire. OpenAI ne se contente pas de réagir à une loi déjà écrite : l’entreprise cherche à peser sur les contours du futur régime applicable aux modèles les plus puissants. C’est exactement le terrain de la bataille d’influence actuelle autour de l’IA : les laboratoires réclament un cadre commun, tout en cherchant à éviter que ce cadre soit défini sans eux ou contre leurs méthodes de développement.

SB 53 : sécurité, transparence et obligations pour les modèles frontières

Le projet de loi SB 53 s’insère dans une succession de tentatives californiennes visant à traiter les risques liés aux systèmes d’IA avancés. Il repose sur une idée simple en apparence : les entreprises qui conçoivent des modèles de frontière devraient expliciter les mesures de sûreté qu’elles mettent en place et faire preuve de davantage de transparence lorsque des incidents significatifs surviennent.

Ce principe diffère d’une logique consistant à interdire une technologie ou à soumettre chaque produit fondé sur l’IA à une autorisation administrative préalable. SB 53 cherche plutôt à instaurer des obligations de processus. Autrement dit, le législateur s’intéresse à la manière dont les développeurs organisent leur politique de sécurité, évaluent certains risques et rendent compte de leurs pratiques.

La transparence est l’un des piliers du texte. Dans le domaine des modèles frontières, les informations accessibles au public restent souvent limitées. Les entreprises publient parfois des rapports techniques, des notes de sûreté ou des fiches décrivant certaines limites de leurs modèles. Mais ces documents restent généralement élaborés selon les standards propres à chaque laboratoire, avec des degrés de détail très variables. Les méthodologies d’évaluation, les résultats complets des tests, les incidents rencontrés ou les arbitrages internes ne sont pas toujours rendus publics.

Un dispositif législatif peut chercher à réduire cette hétérogénéité. Il peut demander aux développeurs de formaliser leurs engagements, de les publier ou de les transmettre aux autorités compétentes. Il peut également encadrer le signalement d’incidents de sécurité. L’enjeu n’est pas seulement de produire plus de documents : il est de rendre les pratiques comparables, vérifiables et, dans une certaine mesure, opposables.

Pour les partisans d’une telle approche, ce type de mécanisme répond à une difficulté propre aux systèmes les plus avancés. Les utilisateurs, les entreprises clientes, les chercheurs indépendants et les pouvoirs publics ne disposent pas nécessairement des informations nécessaires pour apprécier les limites réelles d’un modèle. La société qui l’entraîne connaît ses données, ses procédures internes, ses capacités observées pendant les tests et ses choix de déploiement. Cette asymétrie d’information justifie, selon les défenseurs de la réglementation, des obligations de documentation et de divulgation.

Pour les opposants à des règles trop rigides, le risque est différent. Ils estiment qu’une obligation mal calibrée peut devenir bureaucratique, exposer des informations sensibles ou créer des incertitudes juridiques. Les modèles évoluent rapidement, les techniques de test sont en constante transformation et les catégories de risques elles-mêmes font l’objet de débats. Une loi formulée avec trop de précision pourrait être dépassée par les technologies qu’elle entend encadrer ; une loi trop vague, à l’inverse, pourrait laisser une marge d’interprétation considérable aux entreprises comme aux régulateurs.

C’est dans cet espace que se situe l’intervention d’OpenAI. D’après TechCrunch, l’entreprise ne demande pas l’abandon de SB 53 : elle considère au contraire que la Californie devrait le renforcer. Le signal politique est important, car il valide l’idée qu’un texte étatique peut jouer un rôle dans l’encadrement des modèles de pointe, malgré les critiques régulièrement adressées à l’échelon local.

La portée exacte d’un tel soutien dépendra toutefois des amendements défendus, de leur rédaction et de la manière dont ils seront reçus par les parlementaires californiens. Une entreprise peut soutenir le principe de la transparence tout en contestant le niveau de détail exigé. Elle peut approuver l’existence de rapports de sûreté, tout en préférant que certains éléments soient transmis sous confidentialité. Elle peut accepter une obligation de signalement, tout en souhaitant définir précisément ce qui constitue un incident suffisamment grave pour déclencher cette procédure.

Ces distinctions ne relèvent pas de simples débats techniques. Elles déterminent la capacité effective des pouvoirs publics à surveiller les risques, la quantité d’informations disponibles pour les chercheurs et les clients, ainsi que la charge administrative imposée aux laboratoires. Elles peuvent aussi créer une norme industrielle. Lorsqu’un grand acteur adopte une procédure pour se conformer à la Californie, ses partenaires, fournisseurs et concurrents peuvent être amenés à s’aligner, même en l’absence d’une obligation identique dans d’autres États.

SB 53 est donc moins un texte isolé qu’un laboratoire réglementaire. Il teste la possibilité de soumettre les développeurs de modèles frontières à des exigences spécifiques, sans traiter l’IA comme un bloc uniforme. Cette distinction entre les applications ordinaires et les modèles les plus avancés est désormais centrale dans la plupart des discussions internationales sur la gouvernance de l’IA.

Un changement de ligne après les affrontements sur la régulation californienne

Pour comprendre pourquoi la position d’OpenAI attire l’attention, il faut la replacer dans l’histoire récente de la régulation californienne. L’État est devenu l’un des principaux terrains de confrontation entre la volonté d’imposer des garde-fous aux systèmes avancés et les craintes exprimées par une partie de l’industrie technologique.

Le précédent le plus visible est SB 1047, un projet de loi californien consacré à la sûreté des modèles d’IA de grande puissance. Le texte avait suscité un débat intense parmi les entreprises, les chercheurs, les investisseurs et les organisations de la société civile. Son promoteur, le sénateur Scott Wiener, défendait la nécessité d’introduire des obligations de sécurité adaptées à des systèmes susceptibles de présenter des risques importants.

SB 1047 avait été adopté par le Parlement californien avant d’être finalement rejeté par le gouverneur Gavin Newsom. Ce veto est devenu un moment de référence dans le débat américain. Il a montré qu’une législation ambitieuse sur la sécurité des modèles avancés pouvait obtenir un soutien parlementaire substantiel, tout en échouant face aux inquiétudes sur son impact potentiel, sa mise en œuvre ou son adéquation avec une technologie en évolution rapide.

OpenAI faisait partie des entreprises ayant exprimé des réserves à l’égard de ce type de cadre. La discussion avait notamment révélé la préférence de nombreux acteurs pour une approche fédérale, plutôt qu’une multiplication de lois d’États. Leur argument est connu : une entreprise qui développe et diffuse des services numériques à l’échelle nationale pourrait devoir naviguer entre des exigences différentes selon les juridictions, ce qui alourdirait la conformité et réduirait la cohérence du système.

Mais l’argument fédéral comporte une limite pratique : les États-Unis ne disposent pas, à ce stade, d’un équivalent unifié et contraignant de la réglementation européenne sur l’IA. Washington a encouragé des engagements volontaires et des initiatives de gestion des risques, mais le cadre fédéral demeure fragmenté. Des agences fédérales peuvent agir dans leur champ de compétence, tandis que le Congrès débat régulièrement de textes dont l’adoption reste incertaine.

La position d’OpenAI sur SB 53 doit être lue à partir de cette réalité. Lorsque le cadre fédéral ne produit pas de règle unique, les États conservent une capacité d’initiative. La Californie, par son poids économique et par la concentration d’entreprises du secteur, est particulièrement bien placée pour exercer cette influence. L’opposition à toute intervention californienne devient alors plus difficile à tenir si les règles fédérales restent largement volontaires ou incomplètes.

Le revirement signalé par TechCrunch ne doit donc pas être réduit à une simple conversion d’OpenAI à la régulation. Il peut aussi refléter une stratégie de participation. Dès lors qu’un texte a des chances de structurer le marché, les entreprises ont intérêt à faire entendre leur expertise, leurs contraintes opérationnelles et leur vision des obligations efficaces. Le débat porte moins sur l’existence de normes que sur leur contenu concret.

Cette dynamique est fréquente dans les industries fortement régulées. Les acteurs installés peuvent redouter une nouvelle législation, puis chercher à contribuer à sa rédaction lorsqu’il devient clair qu’elle est susceptible d’aboutir. Dans l’IA, cette séquence est particulièrement rapide, car la technologie progresse vite et parce que les modèles de pointe sont développés par un nombre limité d’organisations disposant d’une connaissance technique difficile à reproduire par les pouvoirs publics.

Il faut néanmoins éviter d’interpréter le soutien annoncé comme une garantie d’alignement total entre OpenAI et les élus californiens. Demander de « renforcer » un texte ne signifie pas automatiquement souhaiter plus de contraintes sur tous les sujets. Une entreprise peut juger qu’une loi doit être plus claire, plus harmonisée, plus ciblée ou plus cohérente avec ses propres procédures. La force juridique d’une obligation, son champ d’application, les informations visées et les modalités de contrôle restent autant de points de négociation.

Cette ambivalence explique l’attention portée au dossier. Les grandes entreprises d’IA sont à la fois les objets de la régulation et des participants majeurs à son élaboration. Elles sont les mieux placées pour décrire leurs méthodes, mais elles ont aussi un intérêt économique direct à ce que les règles ne freinent pas leur activité ou n’exposent pas certaines informations stratégiques. Le rôle des élus et des autorités de contrôle consiste précisément à arbitrer entre cette expertise indispensable et le risque de voir la réglementation largement écrite par les entreprises qu’elle doit encadrer.

La concurrence entre modèles de gouvernance aux États-Unis et en Europe

Le dossier californien éclaire une différence profonde entre les trajectoires réglementaires américaine et européenne. Aux États-Unis, le débat reste marqué par l’opposition entre initiatives des États, ambitions fédérales et engagements volontaires des entreprises. En Europe, l’AI Act a au contraire créé un cadre commun applicable à l’échelle de l’Union européenne, avec des obligations graduées selon les catégories de risques et des dispositions spécifiques pour les modèles d’IA à usage général.

Cette comparaison ne signifie pas que SB 53 serait une réplique californienne de l’AI Act. Les deux textes n’ont ni le même périmètre, ni la même architecture juridique, ni la même place institutionnelle. L’Union européenne légifère pour un marché de plusieurs États membres. La Californie agit dans le cadre fédéral américain. Mais ils répondent à une interrogation proche : comment imposer des obligations de transparence et de sûreté à des systèmes qui peuvent être intégrés dans une multitude de produits et déployés dans des pays très différents ?

Pour les entreprises françaises et européennes, cette convergence partielle est loin d’être abstraite. Beaucoup d’organisations utilisent déjà des modèles conçus aux États-Unis ou dépendent de services cloud, d’API et d’outils proposés par les grands laboratoires. Les choix de conformité effectués par OpenAI et ses concurrents aux États-Unis peuvent influencer la documentation disponible pour les clients européens, les pratiques d’évaluation, les conditions contractuelles et la manière dont les fournisseurs décrivent les limites de leurs systèmes.

Dans le cas de l’AI Act, les obligations liées aux modèles d’IA à usage général reposent notamment sur des exigences de documentation et de transparence. Le règlement européen prévoit également un traitement renforcé pour les modèles présentant des risques systémiques. La logique est donc comparable sur un point essentiel : la réglementation ne peut pas s’intéresser uniquement aux applications finales. Elle doit aussi examiner les acteurs qui entraînent les modèles généraux en amont, car leurs choix techniques ont des conséquences pour l’ensemble de la chaîne de valeur.

La Californie cherche, avec SB 53, à intervenir dans ce même espace stratégique : celui du laboratoire qui développe le modèle avant sa diffusion auprès des éditeurs de logiciels, des entreprises clientes et des utilisateurs. C’est là que sont décidés les dispositifs de protection, les méthodes de test, les politiques de publication et les modalités de réponse aux incidents. Une fois un modèle diffusé à très grande échelle, il devient beaucoup plus difficile de reconstruire ces décisions ou de corriger certaines failles structurelles.

Les concurrents d’OpenAI sont directement concernés par cette évolution. Google, Anthropic, Meta et d’autres développeurs majeurs suivent les débats réglementaires avec attention, car toute obligation applicable aux systèmes frontières pourrait affecter leurs méthodes de mise sur le marché. Le sujet dépasse la rivalité commerciale entre assistants conversationnels. Il concerne aussi les coûts de conformité, la vitesse de déploiement des nouvelles générations de modèles et la capacité des entreprises à démontrer qu’elles ont pris en compte les risques de sécurité.

Les discussions californiennes réactivent également un débat plus large sur la question de savoir si les obligations doivent être fondées sur les capacités des modèles, sur les ressources utilisées pour les entraîner, sur leurs usages effectifs ou sur les dommages observés après leur déploiement. Chaque approche produit des effets différents. Une règle fondée sur les capacités cherche à anticiper les risques avant l’usage. Une règle fondée sur les dommages privilégie la réponse après incident. Une règle fondée sur la taille ou les moyens du développeur vise plus facilement les grands laboratoires, mais peut laisser de côté des systèmes moins coûteux ou distribués autrement.

Le choix de la transparence, qui est au cœur de SB 53 tel que présenté par TechCrunch, constitue une tentative de répondre à cette complexité sans prétendre résoudre tous les problèmes par une interdiction générale. Publier des cadres de sûreté et signaler certains incidents peut permettre aux autorités d’accumuler de l’information, d’identifier des tendances et, à terme, d’adapter les règles. Cette méthode suppose toutefois que les déclarations soient suffisamment précises, que les notions juridiques soient claires et que les autorités disposent des moyens de les exploiter.

Pour le marché francophone, l’enjeu est aussi concurrentiel. Les entreprises européennes souhaitent éviter une dépendance excessive aux plateformes étrangères, tout en utilisant les meilleurs outils disponibles. Une multiplication de normes nationales ou régionales peut compliquer leurs relations avec les fournisseurs. Mais l’absence de normes cohérentes peut également accroître l’incertitude : une entreprise qui intègre un modèle dans un produit critique veut savoir quelles évaluations ont été réalisées, quelles limites ont été identifiées et quelles procédures existent en cas de problème.

Le soutien d’OpenAI à un SB 53 renforcé pourrait ainsi être vu en Europe comme le signe que la transparence et la gestion des risques deviennent des éléments durables de la compétition. Les capacités brutes d’un modèle ne suffisent plus à convaincre les clients institutionnels et les grandes entreprises. La qualité de la documentation, la robustesse des processus de sûreté et la capacité à dialoguer avec les régulateurs prennent une importance croissante.

Une bataille d’influence appelée à structurer le marché des modèles avancés

À court terme, la prise de position d’OpenAI peut peser sur la discussion autour de SB 53. L’entreprise dispose d’une visibilité considérable et d’une expérience directe du développement de modèles de pointe. Son intervention donne du poids à l’idée que les obligations de sûreté et de transparence ne sont plus seulement réclamées par des ONG, des universitaires ou des responsables politiques : elles sont aussi discutées, voire soutenues sous certaines conditions, par les entreprises elles-mêmes.

Mais cette influence n’efface pas les contradictions du débat. Les laboratoires sont incités à afficher des engagements de sûreté, car la confiance du public, des clients, des partenaires et des autorités est essentielle à leur croissance. Ils sont également incités à préserver leur autonomie technique, à protéger leurs informations sensibles et à éviter des contraintes susceptibles de ralentir leurs cycles de développement. Le compromis réglementaire qui en résulte sera nécessairement fragile.

La question du contrôle sera déterminante. Une obligation de publier une politique de sûreté peut avoir une valeur réelle si elle permet de comparer les engagements, de repérer les écarts et de demander des comptes en cas d’incident. Elle peut devenir essentiellement déclarative si les documents restent trop généraux, si les critères sont indéfinis ou si aucune autorité n’est en mesure d’en vérifier l’application. Le texte final de SB 53, ses éventuelles modifications et les conditions de sa mise en œuvre importeront donc autant que le principe même de son adoption.

La capacité des régulateurs à suivre une technologie mouvante sera un autre test. Les modèles d’IA sont régulièrement mis à jour, leurs comportements peuvent varier selon les versions, les outils connectés et les modes de déploiement. Une loi conçue autour de rapports ponctuels devra être suffisamment adaptable pour tenir compte de ces évolutions. Dans le même temps, elle devra fournir une stabilité suffisante aux entreprises qui cherchent à planifier leurs investissements, leurs équipes de conformité et leurs procédures internes.

Pour OpenAI, le positionnement actuel offre aussi un avantage politique potentiel. En appelant à renforcer SB 53, l’entreprise peut se présenter comme un interlocuteur favorable à la sécurité, sans abandonner nécessairement sa préférence pour des règles définies avec l’industrie et coordonnées à une échelle plus large. Cette posture est particulièrement utile dans un contexte où l’IA est désormais au centre de discussions sur la compétitivité, la cybersécurité, l’emploi, les droits d’auteur et la souveraineté technologique.

Pour les élus californiens, le défi sera de ne pas confondre soutien industriel et consensus réglementaire. Le fait qu’un acteur majeur réclame un texte plus solide peut faciliter l’adoption d’une loi. Il peut aussi conduire à une négociation complexe sur les modalités précises, avec le risque que les exigences soient calibrées en fonction des capacités des entreprises les mieux établies. Les petites structures, les chercheurs indépendants et les défenseurs de l’intérêt général ne disposent pas toujours des mêmes moyens pour participer à ces arbitrages.

Le précédent californien aura probablement un écho bien au-delà de l’État. Si SB 53 établit des obligations jugées réalistes par les grandes entreprises et suffisamment robustes par les défenseurs de la sécurité, d’autres juridictions américaines pourraient s’en inspirer. À l’inverse, si le texte est fortement contesté, dilué ou difficile à appliquer, il nourrira l’argument selon lequel seul un cadre fédéral peut traiter efficacement les modèles frontières.

Dans cette perspective, la position d’OpenAI révèle moins une fin du conflit entre innovation et régulation qu’une nouvelle phase de ce conflit. Les grands laboratoires ne peuvent plus ignorer l’exigence de règles sur la sécurité des modèles avancés. Ils cherchent désormais à définir les catégories de risques pertinentes, les indicateurs qui doivent être transmis, les seuils de transparence acceptables et les institutions chargées de décider.

Pour la France et l’Europe, l’évolution américaine mérite une attention soutenue. Le continent dispose déjà d’un cadre légal commun avec l’AI Act, mais la plupart des modèles les plus utilisés par les entreprises européennes restent développés hors d’Europe. La manière dont les États-Unis organiseront la transparence et la sûreté de ces systèmes aura des effets indirects sur les utilisateurs européens, sur les contrats de fourniture et sur les informations accessibles aux régulateurs.

La trajectoire la plus probable n’est pas celle d’une harmonisation immédiate entre Washington, Sacramento et Bruxelles. Les intérêts économiques, les institutions et les traditions juridiques diffèrent profondément. Mais la pression en faveur de mécanismes de sûreté documentés et de transparence accrue devrait continuer à s’intensifier. Le débat autour de SB 53 montre que, même au sein de l’industrie, la question n’est plus de savoir si les modèles frontières doivent être encadrés. Elle est devenue celle de savoir qui écrira les règles, avec quel niveau d’exigence et au bénéfice de quels acteurs.