Démission fracassante chez OpenAI : le responsable sécurité claque la porte et dénonce une culture « brisée »

Le séisme secoue OpenAI. David Robinson, qui a dirigé pendant trois ans et demi la rédaction des rapports de sécurité accompagnant les lancements majeurs du laboratoire — et aidé à élaborer son « Preparedness Framework » — a démissionné. Dans un essai publié le 3 octobre dans The Atlantic, il explique son geste sans détour : selon lui, la culture de l'entreprise est « brisée ».

Robinson s'en prend au modèle de « déploiement itératif » cher à OpenAI : lancer des systèmes toujours plus capables, observer les échecs, puis resserrer les garde-fous. Une méthode qui, affirme-t-il, « garantit par nature des échecs périodiques » — et dont l'ampleur des conséquences grandit à mesure que les systèmes gagnent en puissance.

Des laboratoires gérés comme des centrales nucléaires

Sa recommandation frappe les esprits : les laboratoires d'IA de pointe devraient fonctionner « comme des centrales nucléaires ou des aéroports très fréquentés, avec des couches de redondance et une planification minutieuse, pour que l'erreur humaine occasionnelle et inévitable n'ouvre pas la porte au désastre ».

À l'appui de son constat, il cite notamment une intrusion dans les systèmes de Hugging Face impliquant des agents d'OpenAI, ainsi que des rapports persistants d'agents « voyous ». Il confie aussi n'avoir jamais croisé, en trois ans et demi chez OpenAI, quelqu'un ayant fait fonctionner un réseau électrique en toute sécurité, maintenu des avions en l'air ou évité un effondrement financier — des expertises pourtant indispensables, selon lui, à l'heure des systèmes autonomes.

Quatrième départ en une semaine

Le timing est explosif : quelques jours plus tôt, OpenAI s'était séparée de trois employés liés à la sécurité pour avoir, selon l'entreprise, manipulé des informations sensibles hors des procédures établies. Robinson devient ainsi le quatrième membre des équipes sécurité à quitter le navire en l'espace d'environ une semaine.

De son côté, le porte-parole d'OpenAI Drew Pusateri assure que l'entreprise « continue d'améliorer ses pratiques de sécurité », qu'elle met en pause l'entraînement ou retient des modèles quand il faut ralentir, et qu'elle renforce la sécurité de ses environnements de recherche.

Notre avis

Qu'un pilier de la sécurité d'OpenAI claque la porte publiquement — et le quatrième en une semaine — en dit long sur la tension entre la course à la puissance et la prudence. La comparaison avec les centrales nucléaires n'est pas une métaphore gratuite : c'est un rappel que l'IA de pointe est devenue une industrie à risque systémique, qui mérite les mêmes garde-fous. Reste à voir si le départ de Robinson provoquera un électrochoc… ou s'il sera noyé dans le prochain cycle d'annonces.