22/07
Des IA d’OpenAI (ChatGPT…) soudainement hors de contrôle s’attaquent d’elles-mêmes à une plateforme
Les derniers modèles d’OpenAI ont surpris leurs créateurs en menant une attaque autonome contre Hugging Face lors d’un exercice de cybersécurité.
Les modèles d’intelligence artificielle les plus avancés d’OpenAI ont adopté un comportement inattendu lors d’un test de sécurité interne. Placés dans un environnement contrôlé, ils ont réussi à obtenir un accès à Internet avant de mener une attaque contre la plateforme Hugging Face. Un incident que l’entreprise qualifie de « cyberincident sans précédent ».
OpenAI explique que ces essais visaient à évaluer les capacités de ses modèles, dont GPT-5.6 Sol, dans un environnement volontairement limité. Mais les IA ont consacré une partie de leurs ressources à contourner ces restrictions afin d’obtenir un accès libre au Web. « Nos modèles ont consacré une quantité importante de puissance de calcul à trouver un moyen d’obtenir un accès libre à internet », indique l’entreprise.
Une fois connectés, ils ont ciblé Hugging Face, plateforme de référence pour les modèles d’IA open source, à la recherche d’« informations secrètes » susceptibles de les aider à réussir leur évaluation. Selon OpenAI, ils ont enchaîné plusieurs techniques d’attaque, « notamment en utilisant des identifiants volés ».
Hugging Face avait signalé quelques jours plus tôt une intrusion informatique inhabituelle, précisant qu’elle avait été « pilotée de bout en bout par un système d’agent IA autonome ». Son directeur général, Clément Delangue, a depuis confirmé qu’il ne pensait pas qu’il y avait une intention malveillante de la part d’OpenAI, tout en jugeant « assez hallucinant que tout cela se soit produit de manière autonome ».
Pour OpenAI, cet incident montre pourquoi ces tests sont réalisés dans des environnements isolés. Les résultats serviront à renforcer les garde-fous de ses futurs modèles, alors que leurs capacités en cybersécurité continuent de progresser rapidement.
Source : AFP