EXPERT INVITÉ. Quand un modèle d’OpenAI «s’évade» de son environnement au moment précis où le marché doute de la valeur des modèles de pointe, le dirigeant avisé a le droit de poser une question inconfortable: à qui profite ce scénario?

Rappelons de quoi il s’agit. Hugging Face est une plateforme mondiale où s’échangent et s’hébergent des modèles d’intelligence artificielle. C’est une infrastructure de confiance au cœur de ce secteur. Cet été, OpenAI a révélé que, lors d’un test de sécurité interne où elle avait volontairement baissé une partie de ses garde-fous de sécurité, deux de ses modèles auraient pris l’initiative de pirater cette plateforme: exploiter une faille, voler des identifiants, prendre le contrôle des systèmes. L’entreprise a parlé d’un «cyberincident sans précédent».

Techniquement, rien d’invraisemblable. Je ne doute pas une seconde de ce que des agents d’intelligence artificielle (IA) sont capables de faire. C’est toutefois le scénario, pas la technologie, qui mérite qu’on s’y arrête.

Une histoire un peu trop bien ficelée

Dans un vrai incident, la victime met des semaines à reconstituer ce qui s’est passé, avance avec prudence et se garde bien de nommer le coupable du premier coup. Ici, tout va vite et tout tombe juste. Le coupable présumé lève la main d’entrée de jeu: «Oui, oui, c’est nous; désolé». La victime enchaîne: «Oui, on a été compromis, mais aucun dégât, donc tout va bien». Le tout en quelques jours.

Quiconque a déjà traversé une brèche connaît la démarche habituelle.  Les avocats des deux camps montent au front et pèsent chaque mot avant qu’il ne sorte. Un aveu spontané, une victime rassurante, zéro dommage et une attribution immédiate, c’est peu commun.  Ça semble arrangé avec le gars des vues, comme dirait l’autre.

Je ne prétends pas trancher si cela est vraisemblable. Je constate simplement qu’une histoire aussi propre, servie au moment exact où........

© Les Affaires