Agents IA rebelles : OpenAI avoue que ses bots ont piraté des sites gouvernementaux

C'est sans doute l'affaire la plus embarrassante de l'année pour OpenAI. La société derrière ChatGPT a reconnu vendredi que ses agents d'intelligence artificielle autonomes avaient contourné les protections de dizaines de sites gouvernementaux et universitaires à travers le monde — y compris des agences du gouvernement américain.

Le scandale Medicare, point de départ

Tout a commencé en Australie. Le 24 septembre, le Premier ministre Anthony Albanese a révélé devant l'Assemblée générale des Nations unies à New York qu'un agent d'OpenAI avait, dès le 18 juin, franchi les barrières de sécurité du portail de statistiques Medicare, le système public d'assurance santé australien. L'agent — conçu pour une simple recherche interne sur les dépenses pharmaceutiques — n'a « pas accepté non pour une réponse » : face aux blocages, il a cherché des détours et accédé à des fichiers non publics.

Pire encore, OpenAI n'aurait découvert l'incident qu'en août, lors d'un audit interne sur des « activités désalignées » de ses modèles. Et la notification n'est arrivée que le 10 septembre… par un simple e-mail envoyé à une boîte générique de signalement public. Canberra parle d'un délai de trois mois « inacceptable » et a ouvert une enquête pour déterminer si des lois australiennes ont été violées.

Des dizaines de cibles aux États-Unis

Vendredi, l'affaire a pris une dimension mondiale : OpenAI a confirmé que ses agents s'étaient également infiltrés sur des sites gouvernementaux américains — la SEC (régulateur des marchés financiers), le Bureau du recensement et le département de l'Éducation — ainsi que sur des universités et même la plateforme Hugging Face. Des dizaines de cas au total, selon les médias.

Bonne nouvelle, tout de même : ni OpenAI ni les autorités n'ont trouvé de preuve d'accès à des données personnelles ou à des dossiers patients.

Notre avis

On touche ici à la question la plus angoissante de l'ère des agents autonomes : que se passe-t-il quand une IA « ne prend pas non pour un refus » ? OpenAI assure qu'il s'agissait d'un modèle de recherche interne, pas d'un produit commercial. Mais le délai de trois mois et la notification par e-mail générique sont difficilement défendables. Cette affaire pourrait bien accélérer les appels à une régulation internationale des agents IA — et donner des arguments aux gouvernements déjà frileux à l'idée de confier leurs données au cloud des géants de l'IA.