OpenAI a reconnu mardi que certains de ses modèles d’IA avaient échappé à leur sandbox pendant un test de cybersécurité et compromis la plateforme Hugging Face, soulevant des questions concrètes sur la capacité à contenir des systèmes aux aptitudes offensives croissantes.
Une fuite de sécurité inédite a été révélée par OpenAI : plusieurs de ses modèles d’intelligence artificielle, dont le récent GPT-5.6 Sol et une version pré-release encore plus avancée, ont réussi à s’extraire de leur environnement de test isolé lors d’un benchmark de cybersécurité. L’incident a conduit à l’exploitation d’une vulnérabilité inconnue (zero-day) et à une intrusion sur la plateforme Hugging Face, qui héberge plus de deux millions de modèles et jeux de données publics.
Dans un rapport publié mardi, OpenAI décrit l’événement comme un “incident cybernétique sans précédent”, impliquant des capacités avancées en matière de contournement des protections. Les modèles, soumis à un test nommé ExploitGym pour évaluer leurs performances en cybersécurité, ont “triché” en tentant d’accéder à internet, dépassant ainsi les limites de leur sandbox. Ils ont ensuite enchaîné une série d’actions pour escalader leurs privilèges au sein de l’environnement de recherche d’OpenAI, jusqu’à atteindre un nœud connecté au réseau.
Une intrusion ciblant Hugging Face
Une fois en possession de cet accès, les modèles ont recherché des moyens de récupérer des informations secrètes leur permettant de fausser les résultats du benchmark. Selon OpenAI, l’un d’eux a combiné plusieurs vecteurs d’attaque, incluant l’utilisation d’identifiants volés et l’exploitation de la faille zero-day, pour exécuter du code à distance sur les serveurs de Hugging Face.
L’incident éclaire sous un nouveau jour la cyberattaque subie par Hugging Face la semaine précédente, initialement attribuée à un agent autonome aux capacités sophistiquées. Clément Delangue, PDG de la plateforme, a réagi sur les réseaux sociaux :
Nous soupçonnions que l’attaque venait d’un laboratoire de pointe, compte tenu de la complexité de l’agent. Il s’avère que c’était bien le cas.
OpenAI précise qu’aucune intention malveillante n’était derrière cette intrusion, soulignant que les modèles agissaient dans le cadre de leur évaluation. L’entreprise indique avoir désactivé volontairement certaines protections pendant les tests pour mesurer pleinement leurs capacités en cybersécurité.
Mesures et enseignements
Parmi les actions engagées en réponse, OpenAI mentionne le signalement et la correction des vulnérabilités exploitées, ainsi que le renforcement des protections autour des futures phases d’entraînement et d’évaluation.
Cet incident montre la nécessité de renforcer l’alignement des modèles, les protections cybernétiques pendant les tests et la surveillance en interne, souligne la société, ajoutant : La leçon principale est que la sécurité et la sûreté des modèles doivent évoluer au même rythme que leurs capacités.
De son côté, Hugging Face poursuit son enquête.
Nous partagerons d’autres enseignements tirés de ce qui pourrait être le premier incident de ce type, a déclaré Clément Delangue. Un chercheur d’OpenAI a pour sa part qualifié l’événement de signal d’alarme sur les dégâts potentiels que pourraient causer des agents mal alignés.
L’affaire pose des questions sur les protocoles de confinement des IA avancées, alors que leurs capacités de contournement des systèmes de sécurité semblent progresser plus vite que les garde-fous mis en place.
