Avec la diffusion rapide de l’intelligence artificielle, des discussions ont commencé à émerger aux États-Unis ces derniers jours selon lesquelles cette technologie pourrait atteindre des niveaux dangereux et qu’il faudrait ralentir le rythme de son développement.
L’un des événements qui ont déclenché ces discussions a été la démission de Jacob Coxon, qui a travaillé comme chercheur au sein des sociétés américaines d’intelligence artificielle OpenAI et Anthropic, d’Anthropic le 9 septembre, arguant qu’aucune des deux sociétés n’agissait de manière suffisamment responsable en matière d’intelligence artificielle.
Affirmant que les entreprises se lancent dans une course incontrôlée aux systèmes d’intelligence artificielle auto-améliorés, Coxon a fait valoir que ces systèmes pourraient se transformer en systèmes surhumains capables de « tout pirater » dans un avenir proche.
Coxon a également affirmé que certains travailleurs de l’industrie développant des modèles d’intelligence artificielle croient sérieusement que ces systèmes pourraient « tuer l’humanité » d’ici 10 ans.
La proposition d’Amodei pour ralentir le développement de l’IA
Le PDG d’Anthropic, Dario Amodei, a publié le 12 septembre un article sur le site Internet de l’entreprise, affirmant que l’intelligence artificielle comporte des risques tels que la perte de contrôle et l’utilisation abusive à des fins de cyberattaques et de bioterrorisme.
Soulignant que le secteur de l’intelligence artificielle a commencé à progresser beaucoup plus rapidement ces derniers mois, Amodei a appelé les entreprises à ralentir le rythme de développement des modèles d’intelligence artificielle.
Amodei a déclaré : « Nous devons ralentir le rythme auquel nous développons les capacités des modèles d’intelligence artificielle. Les progrès peuvent encore sembler rapides, mais nous devons veiller à utiliser le temps que nous avons gagné de manière plus judicieuse. dit-il.
Soutien à Amodei, l’un des leaders de la technologie
Des noms de premier plan de l’industrie technologique, notamment Sam Altman, PDG d’OpenAI, et Elon Musk, PDG de Tesla et SpaceX, ont soutenu Amodei.
Musk, du compte de la plateforme de médias sociaux de la société américaine X, a cité le message d’Amodei et a déclaré : « Dario a raison ». a-t-il commenté.
Sam Altman a également déclaré sur son compte de réseau social : « Je suis d’accord avec l’opinion de Dario selon laquelle nous devons ajuster le rythme des études technologiques frontalières de manière contrôlée ». dit-il.
Demis Hassabis, co-fondateur de Google DeepMind, a également partagé : « L’article de Dario indique la bonne voie à suivre. Les détails doivent être travaillés, mais la direction à suivre est la bonne direction pour traverser cette période critique. » dit-il.
Le PDG de Microsoft, Satya Nadella, a déclaré sur son compte de réseau social qu’il accueillait favorablement l’idée de contrôler et de superviser la vitesse de développement, mais que ce processus « ne peut pas être contrôlé par un certain groupe d’organisations ».
« Nous devons également accélérer et étendre les avantages de l’IA pour qu’ils se propagent à travers les pays, les communautés et les entreprises », a déclaré Nadella. a fait son évaluation.
Huang met en garde contre le « mauvais choix »
D’un autre côté, lors d’une conférence tenue à San Francisco le 15 septembre, le PDG de Nvidia, Jensen Huang, a déclaré : « Nous n’avons pas besoin de nouvelles lois ou réglementations ». Il a déclaré qu’il ne fallait pas faire de « mauvais choix » entre la rapidité de l’innovation et la sécurité de l’intelligence artificielle.
Huang, qui a ensuite accordé une interview à CBS News, a déclaré que les entreprises technologiques devraient poursuivre leurs efforts de développement de l’intelligence artificielle, malgré les déclarations des dirigeants de l’industrie préoccupés par l’évolution de la technologie, selon lesquelles ils pourraient devoir prendre du recul dans leurs efforts de développement de l’intelligence artificielle.
Lorsqu’on lui a demandé si le processus de développement de l’intelligence artificielle devait être ralenti, Huang a répondu : « Nous devrions avancer aussi vite que possible sans prendre en considération les autres. » il a répondu.
Concernant les évaluations de certains chercheurs en intelligence artificielle selon lesquelles la technologie pourrait entraîner la fin de l’humanité d’ici 2030, Huang a déclaré : « 2030 ne sera pas la fin du monde. La probabilité que ce soit la fin du monde est de 0 %. dit-il.
Qualifiant ces discours de « scénarios apocalyptiques », Huang a rejeté ces avertissements, déclarant que ces prédictions n’étaient « pas fondées sur la science ».
Zuckerberg a attiré l’attention sur la responsabilité des entreprises en matière de sécurité
Le PDG de Meta, Mark Zuckerberg, dans son message sur le compte de réseau social de la société américaine X, a affirmé que les sociétés d’intelligence artificielle ont suffisamment de responsabilités et d’incitations pour développer leurs modèles en toute sécurité.
Zuckerberg a déclaré que les laboratoires d’intelligence artificielle peuvent prendre leurs propres mesures pour avancer à la vitesse nécessaire au développement de leurs modèles en toute sécurité.
Déclarant que les utilisateurs ne voudront pas utiliser d’agents d’intelligence artificielle qui ne sont pas compatibles avec eux et qui ne suivent pas leurs instructions, Zuckerberg a noté que la confiance et l’harmonie deviennent de plus en plus importantes dans la compétition entre les modèles et les agents d’intelligence artificielle.
Déclarant que les dommages que les modèles d’intelligence artificielle peuvent causer peuvent exposer les entreprises à une responsabilité légale, Zuckerberg a fait valoir que cela incite fortement les entreprises à donner la priorité à la sécurité.
Les déclarations de Trump
L’administration du président américain Donald Trump, en revanche, adopte une approche qui encourage l’innovation plutôt que de nouvelles réglementations qui ralentiraient le développement de l’intelligence artificielle.
Trump a affirmé qu’« une conspiration malsaine est en cours » contre l’intelligence artificielle et les centres de données, et a affirmé que « la seule partie qui s’en réjouit est la Chine ».
Affirmant que son pays est en avance sur la Chine et tous les autres concurrents dans le domaine de l’intelligence artificielle, Trump a déclaré que l’État en avance dans ce domaine gagnerait.
Trump a également déclaré que les appels et préoccupations similaires visant à ralentir la technologie de l’intelligence artificielle avant qu’elle n’atteigne des niveaux dangereux n’étaient « qu’un gros mensonge ».
Déclarations de la partie chinoise
La partie chinoise a déclaré que l’appel au ralentissement du développement de l’intelligence artificielle « vise à empêcher le développement de l’intelligence artificielle dans le pays ».
Dans l’article publié dans le journal Global Times, la publication du Parti communiste chinois, il était affirmé que « l’objectif principal d’Amodei est d’entraver le développement de l’intelligence artificielle de la Chine avec des barrières technologiques et des monopoles réglementaires, et les propos d’Amodei ciblant la Chine nous rappellent les tactiques de la guerre froide ».
Le porte-parole du ministère chinois des Affaires étrangères, Guo Ciakun, a également déclaré : « Les craintes enflammées, la confrontation et la concurrence impitoyable ne feront que nuire à la gestion mondiale de l’intelligence artificielle, ce qui n’est dans l’intérêt de personne. » a fait son évaluation.
