La Californie envisage un « kill switch » obligatoire pour l’IA

La Californie pourrait imposer aux systèmes d’intelligence artificielle avancés un mécanisme d’arrêt, souvent appelé « kill switch », mais aucune obligation précise n’est encore définie. Selon The Verge, le gouverneur Gavin Newsom défend un rôle plus affirmé de l’État dans la supervision de l’IA.

Mise à jour du 20/09/2026 — Le 18 septembre 2026, Gavin Newsom a ordonné l’élaboration de recommandations pouvant imposer aux entreprises d’IA de pointe un mécanisme d’arrêt d’urgence (« kill switch »), dont l’efficacité serait vérifiée de manière indépendante. Cette obligation n’est pas encore en vigueur : elle fait partie des mesures à l’étude. (gov.ca.gov)

Cette orientation politique ne permet pas encore de savoir quels systèmes seraient concernés, ni comment un arrêt devrait fonctionner. Elle pourrait toutefois peser sur la conception, le déploiement et le contrôle des outils développés par les laboratoires d’IA.

Une obligation encore à définir

Un cadre réglementaire devrait préciser ce qui peut être interrompu, qui peut ordonner ou effectuer l’arrêt, et dans quelles circonstances. Il devrait aussi indiquer comment les entreprises démontreraient qu’un arrêt est effectif, notamment lorsque des systèmes sont intégrés à des produits, services ou infrastructures exploités par plusieurs acteurs.

• Le périmètre : les systèmes considérés comme suffisamment avancés pour être visés ;
• La responsabilité : l’acteur chargé d’assurer la capacité d’arrêt ;
• Le contrôle : les moyens par lesquels l’État vérifierait le respect de l’obligation.

Des effets possibles au-delà de la Californie

La Californie abrite une part importante des entreprises et laboratoires qui développent les modèles d’IA les plus influents. Une exigence locale pourrait devenir un standard de fait pour des produits distribués à grande échelle, plutôt que conduire les entreprises à maintenir des architectures différentes selon les marchés.

Les partisans d’une intervention renforcée y voient un moyen de réagir face à des systèmes jugés dangereux ou échappant aux garde-fous prévus. Les critiques mettent en avant la difficulté d’assurer un arrêt fiable et le risque d’alourdir le développement de l’IA ; sans texte précis, il reste impossible de déterminer la portée réelle de la mesure.