OpenAI accuse Moonshot AI (Kimi) de « distillation adverse » pour voler le raisonnement de ses modèles

L'espionnage industriel version IA. Dans un billet de blog publié le 30 septembre, OpenAI affirme avoir identifié et neutralisé une campagne coordonnée visant à extraire le « raisonnement protégé » de ses modèles d'IA — et pointe directement du doigt Moonshot AI, la startup chinoise derrière le chatbot Kimi.

Selon OpenAI, l'activité a commencé le 1er juillet à faible volume, avant d'exploser les 24 et 25 juillet : 16 000 requêtes d'extraction provenant de plus de 4 000 utilisateurs en seulement deux jours. Au total, des schémas de prompts similaires ont été détectés chez plus de 15 000 utilisateurs avant que la campagne ne soit entièrement neutralisée le 28 juillet.

Une technique inédite

La méthode est astucieuse : les opérateurs copiaient le raisonnement chiffré d'une conversation, le collaient dans une autre conversation et demandaient à une instance de modèle distincte de le déchiffrer et de le transcrire. OpenAI chiffre le « chain-of-thought » de ses modèles de raisonnement précisément pour empêcher ses concurrents de le lire et d'apprendre de lui.

L'entreprise insiste : le chiffrement n'a jamais été cassé, aucune base de données n'a été compromise et aucune conversation stockée n'a été exposée. Mais la tentative elle-même est ce qu'OpenAI dénonce, sous le nom de « distillation adverse » : l'utilisation systématique et non autorisée des sorties ou du raisonnement d'un modèle pour entraîner, reproduire ou améliorer un modèle rival.

Une accusation ciblée, mais nuancée

OpenAI précise qu'elle attribue un « noyau central » de l'activité à des individus associés à Moonshot AI, tout en reconnaissant qu'il n'est pas certain que tous les opérateurs appartenaient à un seul acteur. Moonshot AI n'a pas répondu aux allégations.

• Réponse d'OpenAI : comptes bannis, vérification d'inscription renforcée et nouvelles protections autour du raisonnement masqué.
• Partage : les conclusions ont été transmises au Frontier Model Forum ainsi qu'aux canaux gouvernementaux.
• Contexte : Anthropic avait formulé des accusations similaires le 10 septembre contre des développeurs chinois, dont Moonshot et Alibaba.

Notre avis

Cette affaire illustre la nouvelle course aux armements de l'IA : le secret le mieux gardé des laboratoires n'est plus seulement le code, mais le raisonnement lui-même. Comme l'a déclaré Caroline Zier, d'OpenAI : « notre préoccupation concerne la violation de nos conditions d'utilisation, pas les modèles ouverts ni la distillation légitime ». Entre accusations d'espionnage et enquête de la FTC, la bataille de l'IA se joue désormais aussi devant les tribunaux — et ce n'est que le début.