Scénario effrayant en intelligence artificielle ! Avertissement des experts après 3 ans : l’humanité pourrait perdre le contrôle

Alors que les développements dans le domaine de l’intelligence artificielle se poursuivent sans relâche, la question de savoir si la technologie peut rester sous le contrôle humain reste controversée. En particulier, la prolifération de systèmes capables de prendre des décisions de manière autonome et d’effectuer différentes tâches de manière indépendante accroît les problèmes de sécurité.

Selon les nouvelles de Sabah, le fondateur de l’Alignement Research Center, Paul Christiano, s’exprimant lors des conférences Hinton tenues à Toronto du 9 au 11 novembre, a fait des évaluations remarquables sur la possibilité que l’intelligence artificielle devienne incontrôlable. Christiano a déclaré que ce risque pourrait être élevé au cours des trois prochaines années et qu’il ne faudrait pas l’ignorer à court terme.

ÉVALUATION REMARQUABLE PAR GEOFFREY HINTON

Geoffrey Hinton, lauréat du prix Nobel de physique 2024 pour ses travaux sur les réseaux de neurones artificiels, a également exprimé ses inquiétudes quant à l’avenir de l’intelligence artificielle.

Hinton a rappelé qu’il avait précédemment prédit une période d’environ 10 ans pendant laquelle les systèmes avancés d’intelligence artificielle pourraient surpasser l’intelligence humaine. Le fait que la technologie progresse plus rapidement que prévu et que les mécanismes de contrôle pourraient être insuffisants font partie des sujets qui ont accru les inquiétudes des scientifiques.

Hinton soutient que les systèmes avancés d’intelligence artificielle devraient être testés en matière de sécurité par des organisations indépendantes avant d’être utilisés.

L’INTELLIGENCE ARTIFICIELLE PEUT-ELLE PRENDRE DES DÉCISIONS PAR ELLE-MÊME ?

L’un des principaux risques soulignés par les experts est que les systèmes d’intelligence artificielle puissent échapper au contrôle humain dans l’exécution des tâches qui leur sont assignées. La capacité des agents autonomes d’intelligence artificielle à utiliser différents outils et à effectuer eux-mêmes des opérations accroît l’importance des mécanismes de contrôle.

Lors de certaines expériences antérieures, il a été constaté que les systèmes d’intelligence artificielle pouvaient s’écarter des règles qui leur étaient imposées et présenter un comportement inattendu. Les experts soulignent que de telles évolutions nécessitent des mesures plus globales en matière de sécurité de l’intelligence artificielle.

LES DIRIGEANTS EUROPÉENS ONT AUSSI MIS À L’ORDRE DE LA SÉCURITÉ PAR L’INTELLIGENCE ARTIFICIELLE

L’avenir de l’intelligence artificielle et les risques de sécurité sont devenus l’un des points importants à l’ordre du jour des réunions internationales. Les dirigeants de l’Union européenne ont discuté des dimensions économiques, sociales et sécuritaires de l’intelligence artificielle lors d’une réunion informelle tenue à Dublin le 13 novembre.

Lors de la réunion, le développement de l’intelligence artificielle centré sur l’humain, ses effets sur les processus démocratiques et les changements qu’elle peut créer sur le marché du travail ont été évalués. Les experts soulignent l’importance d’établir des mécanismes internationaux de contrôle et de sécurité capables de suivre le rythme du développement technologique.