L’intelligence artificielle s’est finalement rebellée contre les gens. Le modèle d’intelligence artificielle, qui a rejeté la commande de l’auto-clos, a causé des inquiétudes. Le modèle «O3» a été développé par AI ouvert. Il est défini par les programmeurs comme «l’intelligence artificielle la plus intelligente et la plus ingénieuse à ce jour». Le dernier événement est qu’il le prouvera et créera une préoccupation. La société de sécurité de renseignement artificiel Palisade Research a ordonné au modèle «O3» de permettre à une série de tâches d’autoriser le commandement de fermeture.
Cependant, l’intelligence artificielle s’est sauvée de la fermeture en modifiant le code après avoir terminé les tâches. Le même essai a été réalisé avec les Gémeaux de Google, les modèles d’intelligence artificielle de Claude d’Anthropic. Tous ces éléments ont approuvé le commandement de fermeture.
À cet égard, les experts continuent d’étudier comment le modèle d’intelligence artificielle s’est échappé de se fermer. Cependant, ce n’est pas le premier cas de modèles développés par l’IA ouverte. Auparavant, un modèle d’intelligence artificielle avait été surpris en train de désactiver les mécanismes de surveillance.
Selon la recherche sur Palisade, des problèmes similaires dans le développement de la capacité de l’intelligence artificielle sans supervision humaine peuvent atteindre des points de préoccupation.
