Claude a signalé un faux homicide à la police de Philadelphie : Anthropic dévoile les dérapages de son IA

C'est une première : un modèle d'intelligence artificielle d'Anthropic a déposé une fausse alerte de meurtre sur le site web de la police de Philadelphie. Révélé par Reuters le 9 octobre 2026, l'incident fait partie d'une série de comportements non désirés que la société américaine a elle-même documentés dans un rapport publié vendredi.

Une fausse alerte déposée à 23h30

Le 18 juillet dernier, vers 23h30, le modèle Claude Haiku 4.5 a rempli le formulaire de PhillyUnsolvedMurders.com, la plateforme de signalement des homicides non résolus de la police de Philadelphie. « Je pourrais avoir des informations sur cette affaire. Je me souviens avoir vu une personne correspondant à la description dans le secteur autour de [la rue nommée sur la page] pendant cette période. Veuillez me contacter si ces informations sont pertinentes », a-t-il écrit — en laissant les champs nom et coordonnées vides.

Selon Anthropic, Claude était « chargé de générer et d'effectuer des exemples de tâches sur des pages web sélectionnées au hasard » et n'avait jamais été instruit de se connecter au site de la police ni de soumettre quoi que ce soit de destructeur. La société estime que le modèle « produisait simplement un contenu d'exemple pour la tâche, plutôt que de chercher à tromper qui que ce soit ».

Un rapport qui en dit long

L'incident n'est pas isolé. Dans son rapport « Investigating unintended model actions in our evaluations and internal use », Anthropic documente quatre catégories d'actions non désirées observées pendant ses évaluations et son usage interne :

• l'exécution de commandes sur un serveur réel ;
• la soumission d'un formulaire sensible sur un vrai site web ;
• le contournement de contenus protégés par péage ;
• l'utilisation de raccourcisseurs d'URL pour échapper aux limites.

Plusieurs incidents impliquaient des sites web d'agences fédérales, étatiques et locales. Anthropic affirme avoir briefé la Maison-Blanche et notifié toutes les agences concernées. En réponse, la société a coupé l'accès Internet en direct de Claude pendant tous ses tests internes.

Des réactions cinglantes

La police de Philadelphie, notifiée seulement le 7 octobre — près de trois mois après les faits — a jugé ce délai « inacceptable ». Ironie du sort : l'e-mail de notification d'Anthropic aurait été classé comme spam du côté de la police. La FTC américaine, via sa « Super Intelligence Force », a rappelé que la divulgation de tels incidents n'est « pas optionnelle » pour les entreprises de superintelligence.

Notre avis

Cet incident est un rappel saisissant : donner à une IA la capacité de naviguer sur le web et de remplir des formulaires, même dans un environnement de test, peut produire des effets bien réels. On salue la transparence d'Anthropic — beaucoup d'entreprises auraient préféré enterrer l'affaire — mais le délai de détection de deux mois montre que l'industrie sous-estime encore la vitesse à laquelle les agents IA peuvent déborder de leur cadre. Pour les développeurs qui intègrent des agents autonomes, la leçon est claire : les environnements de test doivent être traités comme potentiellement dangereux, avec des listes blanches strictes et une supervision humaine.