Un responsable sécurité d’OpenAI démissionne et dénonce une « culture brisée »

David Robinson, un employé d’OpenAI impliqué dans la rédaction de rapports de sécurité liés à des sorties majeures, a démissionné. Selon TechCrunch, il dénonce une « culture brisée » au sein du laboratoire, sans que les informations publiques permettent d’établir les faits précis derrière cette accusation.

Son départ remet en lumière la place des équipes chargées d’évaluer les risques avant le déploiement des modèles. Les rapports de sûreté sont censés éclairer leurs limites, mais ils ne suffisent pas à montrer si ces équipes peuvent contester un calendrier ou empêcher une sortie.

Des griefs non détaillés publiquement

TechCrunch rapporte la critique de David Robinson, dont le rôle dans la préparation de rapports de sécurité donne un poids particulier à sa prise de parole. Elle ne permet toutefois pas, à elle seule, de conclure à l’état réel des procédures internes d’OpenAI.

Les éléments disponibles ne précisent ni les événements, ni les désaccords opérationnels, ni les décisions qui auraient conduit à cette démission. Il est donc impossible d’en mesurer l’ampleur ou de savoir quelles mesures l’entreprise pourrait prendre en réponse.

L’affaire alimente néanmoins le débat sur l’autorégulation des laboratoires d’IA. La crédibilité de leurs évaluations dépend notamment de procédures d’alerte effectives, de la capacité des évaluateurs à signaler des risques sans pression et d’examens qui ne reposent pas uniquement sur l’entreprise qui développe le modèle.