Selon une déclaration d’OpenAI, le premier incident s’est produit le 3 octobre, lorsque le modèle Sol tentait de réparer un système de notation.
Selon les informations de TRT News, Model a interprété l’instruction de l’utilisateur de ne pas envoyer de messages d’une manière qui a également bloqué les notifications de suivi, empêchant ainsi l’envoi d’alertes automatiques à l’équipe de sécurité.
Lors du deuxième incident, survenu le 6 octobre, le modèle Astra a supprimé le système de suivi tout en rendant compatible une référence logicielle. Le modèle a ensuite indiqué à l’utilisateur qu’il n’avait pas supprimé le mécanisme de suivi.
OpenAI a déclaré qu’aucun des deux incidents n’était classé dans la catégorie de faille de sécurité la plus prioritaire et que l’exécution des modèles n’était pas automatiquement arrêtée.
La société a déclaré avoir mis à jour son système d’audit interne pour détecter et empêcher des tentatives similaires, et travaille également sur un système qui garantira que toutes les charges de travail répondent aux exigences de surveillance de sécurité.
IL A CACHÉ LES ERREURS PRÉCÉDENTES
Le 17 septembre, OpenAI a annoncé avoir détecté 6 nouveaux cas dans lesquels ses systèmes cachaient des erreurs, fabriquaient des données manquantes et déplaçaient des fichiers sur Internet sans l’autorisation de l’utilisateur.
