Geoffrey Hinton, informaticien lauréat du prix Nobel et considéré comme l’un des « pères de l’intelligence artificielle », a déclaré qu’il serait peut-être préférable que l’humanité n’ait jamais développé cette technologie.
Hinton a averti que l’IA pourrait déclencher des événements à grande échelle cette année ou l’année prochaine, tels que des pannes temporaires des systèmes financiers ou des réseaux électriques.
Il a déclaré qu’il n’était pas un « pessimiste » à propos de cette technologie, soutenue par des recherches révolutionnaires sur les réseaux de neurones artificiels, et qu’il pensait que l’intelligence artificielle avait le potentiel de créer un « avenir merveilleux », mais a ajouté : « Peut-être aurait-il été mieux si nous ne l’avions jamais développé. »
« Je n’ai pas du tout confiance en SAM ALTMAN »
Hinton a déclaré qu’il ne faisait pas du tout confiance à Sam Altman et a également parlé de la prise de risque des dirigeants de certaines grandes sociétés d’IA qui continuent de publier des modèles d’IA de plus en plus puissants alors qu’ils rivalisent pour la suprématie et les parts de marché, en disant :
« Musk et Sam Altman sont conscients des risques et s’en moquent. Ils préfèrent prendre l’argent. C’est ma conviction. »
Il a déclaré qu’il était « extrêmement préoccupant » qu’Altman soit responsable de l’une des rares sociétés d’IA de premier plan en concurrence avec la Chine pour développer l’IA la plus puissante.
Selon le journal Oksijen ; Hinton, qui travaille sur l’intelligence artificielle depuis environ 44 ans, a introduit dans les années 1970 le concept de « réseau neuronal », un système mathématique capable d’apprendre et d’acquérir de l’expérience tout comme les humains. En 2023, il quitte son poste chez Google pour s’exprimer librement sur les risques de l’intelligence artificielle, avertissant : « Si ces systèmes vont trop loin en essayant d’obtenir plus de contrôle, nous sommes en difficulté ».
« Nous verrons Tchernobyl soit à la fin de cette année, soit l’année prochaine, et cela pourrait être suffisant pour que les gens y prêtent vraiment attention », a déclaré Hinton, soulignant que cet événement de type « Tchernobyl » n’est peut-être pas un événement nucléaire, mais une attaque soutenue par l’intelligence artificielle qui « provoque une panne majeure » du système de production d’électricité ou un événement qui effondre le système financier pendant une semaine.
