Evan Hubinger, qui travaille sur l’harmonie de l’intelligence artificielle avec les valeurs humaines chez Anthropic, a fait une déclaration concernant le poste de Jacob Coxon, qui a démissionné d’Anthropic, de la plateforme de médias sociaux de la société américaine X.
« Ceux qui développent l’intelligence artificielle croient sincèrement que cette technologie pourrait tous nous tuer d’ici la fin de la décennie », a déclaré Coxon. Citant son message disant: « Jacob a raison sur ce point, nous croyons vraiment et sincèrement que l’intelligence artificielle peut tuer tous les humains. » dit-il.
Hubinger a fait valoir qu’il pensait que cette probabilité serait supérieure à 10 % dans 10 ans et a déclaré : « Je pense qu’Anthropic fait de son mieux, mais nous n’avons pas encore de plan pour résoudre le problème de la compatibilité avec la super intelligence et nous ne suivons pas de feuille de route claire dans cette direction. » a fait son évaluation.
Le scientifique Geoffrey Hinton, lauréat du prix Nobel, a déclaré à la BBC que les gens n’ont jamais fabriqué un produit qui pourrait être plus intelligent qu’eux-mêmes et que ce qui va se passer ne peut donc pas être prédit.
Hinton a déclaré que les évaluations selon lesquelles il existe une probabilité supérieure à 10 % que les technologies d’intelligence artificielle « tuent tous les humains » d’ici 10 ans ne sont pas « déraisonnables ».
Hinton a déclaré que l’intelligence artificielle avancée n’a pas besoin d’être capable de contrôler des systèmes physiques pour poser un risque sérieux et qu’« elle peut provoquer le chaos même en parlant aux gens » et a averti que des systèmes hautement performants peuvent être utilisés dans des attaques biologiques ou cybernétiques ou dans la conception de virus informatiques.
Hinton a souligné que l’intelligence artificielle devrait être conçue de manière à ne pas développer d’objectifs susceptibles de nuire aux personnes.
