OpenAI, Google et Anthropic s'allient pour créer un organisme de sécurité de l'IA

C'est une annonce qui pourrait changer la façon dont l'intelligence artificielle est encadrée dans le monde. Selon The Information, OpenAI, Google et Anthropic travaillent ensemble à la création d'un organisme de normalisation dédié à la sécurité de l'IA, qui pourrait voir le jour dès la fin de l'année ou au début 2027.

Une autorégulation assumée

L'objectif affiché : permettre aux créateurs des modèles d'IA les plus avancés de se réguler eux-mêmes, sans supervision gouvernementale. Concrètement, ce nouvel organisme — dont le nom provisoire serait Standards Authority for Frontier AI — aurait plusieurs missions :

• soutenir les organisations indépendantes qui testent les modèles avant leur déploiement ;
• définir comment les laboratoires doivent signaler les incidents de sécurité ;
• formaliser les engagements volontaires des entreprises en matière de sûreté ;
• établir les qualifications requises pour auditer les modèles et les laboratoires.

Le groupe de travail envisagerait même que l'organisme teste lui-même la sécurité et les capacités des modèles.

Que faire du Frontier Model Forum ?

Rappelons qu'en 2023, Anthropic, Google, OpenAI et Microsoft avaient déjà créé le Frontier Model Forum, une organisation à but non lucratif aux objectifs très proches. Les deux structures seraient en contact et pourraient collaborer. Reste à voir si le nouvel organisme ne fera pas doublon — ou s'il ne servira pas, comme le craignent certains critiques, à écarter les développeurs open source et les concurrents plus petits.

Pendant ce temps, à l'ONU...

Le timing est savoureux : la veille de cette révélation, les PDG d'Anthropic et d'OpenAI, Dario Amodei et Sam Altman, s'adressaient au Conseil de sécurité des Nations unies pour réclamer... des standards mondiaux. Vingt-deux dirigeants internationaux, à l'initiative de la Norvège et de la Finlande, ont dans le même temps appelé à des tests avant déploiement et à des évaluations indépendantes. Deux visions s'affrontent donc : une régulation portée par l'industrie elle-même, ou une supervision internationale sous l'égide de l'ONU. Les États-Unis, eux, ont déjà fait savoir qu'ils rejetaient toute « gouvernance mondiale » de l'IA.

Notre avis

Voir les trois plus grands laboratoires d'IA s'asseoir à la même table pour parler sécurité est une bonne nouvelle en soi — il y a deux ans, c'était impensable. Mais une autorégulation sans contre-pouvoir indépendant laisse un goût d'inachevé : qui auditera les auditeurs ? La bataille entre régulation industrielle et supervision internationale ne fait que commencer, et 2027 s'annonce décisive.